AI heeft nieuwe virussen gemaakt, waarschuwt de New York Times. Welke risico's en gevolgen

Kunstmatige intelligentie is steeds meer aanwezig op elk gebied van het leven, inclusief de gezondheid. Maar het feit dat het is gebruikt om nieuwe virussen te creëren, heeft ook aanleiding gegeven tot bezorgdheid in de wetenschappelijke gemeenschap. Het nieuws werd vrijgegeven door de New York Times, die meldt dat een team van Californische onderzoekers AI heeft gebruikt om virussen te creëren die voorheen niet in de natuur bestonden.

Nieuwe virussen gemaakt door AI: het is een primeur

Zoals de krant “Big Apple” uitlegt, vond het experiment plaats bij het Arc Institute, een onderzoeksorganisatie gevestigd in Palo Alto. In de Californische laboratoria zijn wetenschappers er daarom in geslaagd een model van kunstmatige intelligentie te trainen, zodat het DNA-patronen uit de natuur kon herkennen, maar deze vervolgens kon gebruiken om echt nieuwe virussen te creëren. In sommige bacteriën zijn zelfs DNA-moleculen ingebracht. Het is de eerste keer in de geschiedenis van de wetenschap dat dit is gebeurd, zoals ook wordt onderstreept door het tijdschrift Science dat de studie publiceerde.

Van bacteriën tot virussen

Toen er eenmaal “gemodificeerde” DNA-bacteriën waren verkregen, werden er dus nieuwe virussen verkregen, die vóór het experiment niet in de natuur bestonden en volgens de onderzoekers in staat waren om op hun beurt andere bacteriën te infecteren. Het Californische team wilde er echter op wijzen dat hetzelfde potentieel niet betrekking heeft op mensen, die daarom niet besmet konden raken. “We wilden gewoon uiterst voorzichtig zijn”, stelde Brian Hie, een computationeel bioloog aan de Stanford University en een van de auteurs van het onderzoek, gerust.

Een wetenschappelijke prestatie, die echter vragen oproept

Veel experts uit de industrie hebben het resultaat met enthousiasme begroet en spreken van succes en een belangrijke wetenschappelijke prestatie. De mogelijkheid om voorheen niet-bestaande virussen te creëren, vertegenwoordigt in feite een stap verder dan het vermogen om virale genomen te verkrijgen, zoals tot nu toe is gebeurd. Deze laatste werd tot nu toe gebruikt voor de studie van nieuwe medicijnen en vaccins. Ze dienden ook om de kennis over de virussen zelf te vergroten, tot aan de sprong in kwaliteit die zojuist in Californië werd geregistreerd. Wat er gebeurde, zorgde echter ook voor bezorgdheid en verschillende vragen over de veiligheid. Volgens de onderzoekers lijken de nieuwe virussen op Phi X-174, een enkelstrengs DNA (ssDNA)-virus dat bijvoorbeeld de Escherichia coli-bacterie infecteert. Het is het eerste op DNA gebaseerde genoom waarvan de sequentie is bepaald, in 1977. Er bestaan echter twijfels over mogelijke soortgelijke toepassingen van AI om bacteriologische wapens te creëren.

Hoe AI werd getraind en waarom

De wetenschappers die het onderzoek uitvoerden, legden uit dat ze een kunstmatige-intelligentiemodel gebruikten genaamd “Evo”, vergelijkbaar met ChatGPT en in staat om te reageren op menselijke input, mede dankzij jarenlange training in zeer grote databases, bestaande uit teksten van internet, boeken en andere bronnen. Het doel van de onderzoekers was om te begrijpen of het mogelijk was om nieuwe virussen te creëren die slechts enkele bacteriën konden aanvallen. Het uitgangspunt was juist de training van de AI om ervoor te zorgen dat deze een DNA kon ontwikkelen op basis van de structuur van een gen en zijn nucleotiden, die de ‘moleculaire bouwstenen’ ervan vertegenwoordigen. Deze volgen een nauwkeurige rangschikking, gebaseerd op een alfabet van vier letters (A, C, G en T), die op hun beurt de ‘instructies’ geven voor het bouwen van eiwitten en andere moleculen. De AI werd eerst getraind en vervolgens op de proef gesteld in het leren van deze regels, wat resulteerde in het ontstaan van twee compleet nieuwe virussen, met ongekend DNA.

Voorzorgsmaatregelen en wetten in de VS

Juist om mogelijk oneigenlijk gebruik van de technologie en dus ook schadelijke gevolgen te voorkomen, legden de onderzoekers uit dat ze de AI geen gegevens wilden verstrekken over virussen die mensen infecteren, met uitzondering van informatie, zelfs niet over soortgelijke, die andere dieren, planten en schimmels kunnen schaden. Opnieuw voor de grootst mogelijke bescherming is in de Verenigde Staten een nieuwe regeling ontwikkeld die tot doel heeft potentieel risicovol onderzoek op wetenschappelijk gebied te voorkomen. Sommige critici wijzen er echter op dat de huidige wetten onvoldoende beperkingen stellen aan computeronderzoek.

AI in de Italiaanse gezondheidszorg

Ondertussen vestigt wat er in Californië is gebeurd de aandacht op het gebruik van AI in de MedTech-sector, die volgens deskundigen bijzonder dynamisch is in Italië. “78% van de bedrijven verklaart dat ze het al in producten of diensten hebben geïntegreerd, terwijl 61% zich in een vergevorderd stadium van ontwikkeling en validatie bevindt. Maar ondanks de technologische volwassenheid heeft grootschalige adoptie nog steeds moeite om zich te vertalen in klinische impact. AI-gebaseerde oplossingen hebben moeite om systemen op een systemische manier in afdelingen binnen te dringen en zorgmodellen te transformeren”, legt Forbes Italia uit, daarbij verwijzend naar AI Adoption Gap in Healthcare, het eerste nationale onderzoek over dit onderwerp, uitgevoerd onder ongeveer 300 bedrijven, waaronder MKB-bedrijven en startups en gepubliceerd door de Tech4GlobalHealth Observatorium van de Campus Bio-Medico Universiteit van Rome in samenwerking met Intesa Sanpaolo.

Twijfels over privacy en veiligheid

Het gebruik van AI in de gezondheidszorg roept dus fundamentele vragen op over fouten en oneigenlijk gebruik. Om deze aspecten te reguleren heeft de Europese Unie AI-systemen voor de gezondheidszorg geclassificeerd als ‘hoog risico’, en daarbij strenge verplichtingen opgelegd. Sommige initiatieven van de Garant voor de bescherming van persoonsgegevens en de WHO hebben tot doel de grenzen te definiëren waarbinnen kunstmatige intelligentie moet worden gebruikt, in relatie tot de ethische implicaties. Op 12 oktober 2023 heeft de Garant zelf een decaloog uitgegeven voor het gebruik van kunstmatige intelligentie (AI) in de nationale gezondheidszorg, waarin drie pijlers worden geïdentificeerd:

Kennelijkheidsprincipe: Benadrukt het recht van individuen om zich bewust te zijn van het gebruik van automatische besluitvormingsinstrumenten en om geïnformeerd te worden over de logica achter deze instrumenten.
Het niet-exclusiviteitsprincipe: zorgt ervoor dat een individu altijd de controle behoudt over geautomatiseerde beslissingen, vooral tijdens de algoritmetrainingsfase.
Het principe van algoritmische non-discriminatie: vereist het exclusieve gebruik van betrouwbare kunstmatige-intelligentiesystemen en de periodieke verificatie van hun nauwkeurigheid om het risico op fouten en discriminatie te beperken.