Deze startup wil dat AI voortaan jouw medicijnen voorschrijft

We kunnen er niet omheen: AI is tegenwoordig overal en in alles te vinden. Een startup uit San Francisco, genaamd Legion Health, ontwikkelt nu zelfs een AI-app die psychiatrische medicijnen gaat voorschrijven.

De Amerikaanse staat Utah heeft plannen om de app daar uit te rollen inmiddels goedgekeurd. Het is een zeldzaam voorbeeld waarbij AI medische verantwoordelijkheid krijgt. De reden om dit plan goed te keuren? Het kan de kosten omlaag brengen en helpen de personeelstekorten in de zorg te verzachten.

Het gaat om een pilot van één jaar. De AI is vooral bedoeld voor het vernieuwen van recepten voor medicijnen. Patiënten moeten daarvoor wel een abonnement nemen van 19 dollar per maand. Later deze maand moet de dienst ook daadwerkelijk in gebruik worden genomen.

Experts bezorgd

De aankondiging van deze app leidt, zoals verwacht, tot veel vraagtekens en zorgen bij artsen en andere experts. Een van die zorgen is dat dit systeem weinig zal doen om medicijnen toegankelijker te maken voor mensen die ze het meest nodig hebben. Daarnaast bestaat het risico op ‘overbehandeling’, waarbij patiënten te makkelijk en te vaak nieuwe medicijnen voorgeschreven krijgen.

John Torous, directeur digitale psychiatrie aan Harvard Medical School, uit in gesprek met The Verge zijn zorgen. Het automatiseren van het proces zou kunnen bijdragen aan een “epidemie van overbehandeling” in de psychiatrie. Medicatie zou juist “meer actief beheer, aanpassingen en zorgvuldige overweging” moeten vereisen.

AI raadt meth aan

De staat Utah begon afgelopen december ook met een andere pilot van Legion Health, genaamd Doctronic. Deze AI-bot voor medisch advies bleek gemakkelijk te beïnvloeden. Zo kregen gebruikers de AI zover om complottheorieën over vaccins te verspreiden en in een extreem geval zelfs het gebruik van meth aan te bevelen.

Het bedrijf hoopt zijn nieuwe chatbot tegen het einde van het jaar in de hele VS uit te rollen. John Torous raadt patiënten sterk aan om advies van echte, menselijke artsen op te zoeken en de app links te laten liggen.