Sanket Mishra, Unsplash
AI-pionier ontwikkelt nieuw model als tegenhanger van huidige 'liegende en bedriegende' chatbots
Vooraanstaand AI-wetenschapper en pionier Yoshua Bengio luidt de noodklok: “Ik maak me grote zorgen over het gedrag dat ongeremde agentische AI-systemen nu al beginnen te vertonen.”
Het valt Bengio op dat de huidige geavanceerde AI-modellen steeds meer gevaarlijke mogelijkheden hebben en alarmerende gedragingen vertonen. Hij heeft het dan voornamelijk over misleiding, bedrog, liegen, hacken, zelfbehoud en, meer in het algemeen, het verkeerd afstemmen van doelen.
LawZero
Als reactie op deze ontwikkeling heeft de wetenschapper een nieuwe non-profit onderneming opgericht, genaamd LawZero. De organisatie is een naar eigen zeggen ‘betrouwbare’ AI-model aan het bouwen, die Bengio ‘Scientist AI’ noemt. Deze AI wordt getraind om te begrijpen, te verklaren en te voorspellen, als ‘een onbaatzuchtige, geïdealiseerde en platonische wetenschapper’.
“In plaats van een acteur die getraind is om mensen te imiteren of te behagen (inclusief sociopaten), stel je je een AI voor die getraind is als een psycholoog, of meer in het algemeen; een wetenschapper, die ons probeert te begrijpen, inclusief wat ons kan schaden,” legt Bengio uit. “De psycholoog kan een sociopaat bestuderen zonder zich als een sociopaat te gedragen."
Pionier
Yoshua Bengio’s woord wordt echt serieus genomen in de computerwetenschap. Hij ontving in 2018 als de oprichter van het Montreal Institute for Learning Algorithms (MILA) een Turing Award, samen met mede-AI-pioniers Yann LeCun en Geoffrey Hinton, voor hun bepalende rol in onderzoek naar machinaal leren. Daarnaast werd hij opgenomen in de lijst van Time magazine's ‘100 Most Influential People’ in 2024 dankzij zijn aanzienlijke impact op de almaar sneller evoluerende AI-sector.
Lees meer over AI.