Η εταιρεία Tiiny AI παρουσίασε τον μικρότερο προσωπικό υπερυπολογιστή τεχνητής νοημοσύνης στον κόσμο. Ονομάζεται Tiiny AI Pocket Lab και παρότι έχει περίπου το μέγεθος ενός power bank υπόσχεται επίπεδα απόδοσης που συνήθως απαιτούν πολύ ακριβό εξοπλισμό.
Άλλοι μικροί υπερυπολογιστές, όπως το Project Digits της NVIDIA με τιμή γύρω στα 3,000 δολάρια και το DGX Spark που κοστίζει περίπου 4,000 δολάρια, βρίσκονται σε επίπεδα τιμών που τους καθιστούν απρόσιτους για τους περισσότερους καθημερινούς χρήστες.
Η Tiiny AI υποστηρίζει ότι το πραγματικό εμπόδιο της σύγχρονης τεχνητής νοημοσύνης δεν είναι η υπολογιστική ισχύς αλλά η εξάρτησή μας από τα ψηφιακά νέφη, τα συστήματα cloud. Ο Σαμάρ Μποτζ ειδικός σε θέματα μάρκετινγκ λέει ότι «η νοημοσύνη δεν θα έπρεπε να ανήκει στα data centers, αλλά στους ανθρώπους. Εκτελώντας μεγάλα μοντέλα τοπικά, το Pocket Lab στοχεύει στη μείωση της εξάρτησης από το cloud, στη βελτίωση της ιδιωτικότητας και στο να κάνει την προηγμένη τεχνητή νοημοσύνη να μοιάζει προσωπική και όχι απομακρυσμένη».
Η συσκευή
Το Pocket Lab έχει διαστάσεις μόλις 14,2 × 8 × 2,53 εκατοστά και ζυγίζει μόνο 300 γραμμάρια ωστόσο η εταιρεία υποστηρίζει ότι μπορεί να εκτελεί μεγάλα γλωσσικά μοντέλα με έως και 120 δισεκατομμύρια παραμέτρους. Μοντέλα τέτοιου μεγέθους συνήθως συνδέονται με μεγάλες συστοιχίες διακομιστών ή επαγγελματικές κάρτες γραφικών αλλά η Tiiny AI θέλει να φέρει αυτή τη δυνατότητα σε μια συσκευή που χωράει στο χέρι.
Το Pocket Lab βασίζεται στον νεότερο επεξεργαστή ARM v9.2 με 12 πυρήνες και υποστηρίζει δημοφιλή ανοιχτού κώδικα μοντέλα όπως GPT OSS, Llama, Qwen, DeepSeek, Mistral και Phi. Στην καρδιά της συσκευής βρίσκεται μια αυτόνομη μονάδα νευρωνικής επεξεργασίας που μπορεί να αποδώσει 190 TOPS. Περιλαμβάνει επίσης 80 gigabyte μνήμης LPDDR5X, η οποία επιτρέπει επιθετική ποσοτικοποίηση ώστε τεράστια μοντέλα να μπορούν να τρέχουν τοπικά χωρίς εξάρτηση από υποδομές cloud.
Η Tiiny AI έχει ενσωματώσει επίσης δύο βασικές τεχνολογίες στο σύστημα. Η TurboSparse είναι μια μέθοδος ενεργοποίησης σε επίπεδο νευρώνα που βελτιώνει την αποδοτικότητα της εξαγωγής συμπερασμάτων χωρίς να μειώνει τη νοημοσύνη του μοντέλου. Η PowerInfer είναι μια ετερογενής μηχανή εξαγωγής συμπερασμάτων που μοιράζει τα φορτία τεχνητής νοημοσύνης ανάμεσα στον επεξεργαστή και τη μονάδα νευρωνικής επεξεργασίας, προσφέροντας απόδοση επιπέδου server με χαμηλές ενεργειακές απαιτήσεις. Αυτός ο συνδυασμός καθιστά το Pocket Lab μια ελκυστική επιλογή για όποιον πειραματίζεται με τοπική τεχνητή νοημοσύνη, είτε για έρευνα, ρομποτική ή σύνθετες εργασίες συλλογισμού.
Η Tiiny AI σκοπεύει να παρουσιάσει τη συσκευή στην έκθεση CES 2026. Οι πληροφορίες για την τιμή και την ημερομηνία κυκλοφορίας παραμένουν προς το παρόν άγνωστες, αλλά ο κλάδος θα παρακολουθεί με μεγάλο ενδιαφέρον το πώς θα αποδώσει ένας τόσο μικρός υπερυπολογιστής όταν φτάσει στα χέρια πραγματικών χρηστών.
Πηγή: naftemporiki.gr