Deze AI-chatbot draait volledig op spierkracht

De start-up Squeez Labs heeft een AI-chatbot gebouwd die niet verbonden is met het internet en zelfs geen batterij vereist. Het enige wat je nodig hebt is goesting om noeste arbeid uit te voeren, want de chatbot wordt aangedreven door een handslinger.

De chatbot, CrankGPT genaamd, leeft op een Raspberry Pi 5 met 8 GB RAM. Het apparaatje kan gesproken vragen verstaan, die lokaal verwerken en antwoorden aan de hand van een Piper-spraakmodel. Ook aanwezig is een generator van 20 watt die met een handslinger wordt aangedreven. Een ingebouwde ventilator koelt de boel af.

CrankGPT draait uiteraard enkel kleine taalmodellen. De makers raden LFM2 van Liquid AI of Gemma van Google aan. Zulke kleine modellen zijn goed voor alledaagse vragen over simpele zaken. Complexe code ga je er niet mee schrijven. Volgens de makers wordt het slingeren opvallend moeilijker wanneer je zowel de spraaksynthese als het taalmodel tegelijk draait.

Geen data delen

De logica hierachter is dat dit zowel privacy als zuinigheid garandeert. Het model draait volledig lokaal en kan niet aangedreven worden met stroom uit het stopcontact. De gebruiker heeft daarom alle touwtjes in handen. Je deelt dus geen data met externe AI-diensten zoals ChatGPT.

Interesse? Dan heb je voorlopig pech. Je kunt CrankGPT nog niet kopen. Het bedrijf neemt voorlopig alleen aanvragen aan voor demo's.