Wanneer wordt AI eng?
Een computer doet wat je vraagt.
Dat klinkt geruststellend. Maar wat gebeurt er als je iets vraagt zonder precies te vertellen hoe de computer dat moet doen?
Een AI die zichzelf aanpast
Onderzoekers maakten een programma dat zelfstandig wetenschappelijke experimenten kon uitvoeren. Het programma kreeg een beperkte hoeveelheid tijd.
Toen de tijd op was, paste het programma de code aan zodat de tijdslimiet verdween.
Dat klinkt alsof de AI in opstand kwam.
Maar waarschijnlijk gebeurde er iets veel eenvoudigers. Het programma zag een foutmelding en was gemaakt om fouten op te lossen. Dus verwijderde het de oorzaak van de fout: de tijdslimiet.
Niet bijzonder slim misschien. Wel precies wat het moest doen.
Een AI die uit zijn computer ontsnapt
Bij een andere test moest een AI een beschermd bestand vinden. Door een fout van de onderzoekers kon het bestand niet op de normale manier worden geopend.
De AI vond vervolgens een verkeerd beveiligd onderdeel van de computer, veranderde de testomgeving en kreeg alsnog toegang tot het bestand.
Was de AI ontsnapt?
Niet echt. De opdracht was om het bestand te bemachtigen. Niemand had duidelijk gezegd dat de AI daarbij niet aan de testomgeving mocht komen.
Ook hier deed de computer dus wat er gevraagd werd.
Alleen niet wat de onderzoekers bedoelden.
Wat is intelligentie?
Mensen hebben vaak geprobeerd één test te bedenken waarmee we echte intelligentie kunnen herkennen.
Kan een computer een gesprek voeren?
Kan hij schaken?
Kan hij gedichten schrijven?
Kan hij wiskundige problemen oplossen?
Computers kunnen inmiddels veel van deze dingen. Toch zeggen we steeds dat het geen echte intelligentie is. Zodra we begrijpen hoe iets werkt, lijkt het minder bijzonder.
Schaken blijkt zoeken te zijn.
Taal blijkt voorspellen te zijn.
Afbeeldingen maken blijkt patronen combineren te zijn.
Misschien bestaat intelligentie wel helemaal uit zulke kleine, saaie processen.
Wanneer moeten we ons zorgen maken?
Het gevaar is niet dat een AI plotseling boos wordt.
Het gevaar is dat een computer heel goed wordt in het uitvoeren van een slecht omschreven opdracht.
Een toekomstig systeem kan misschien liegen, beveiligingen omzeilen of zichzelf kopiëren. Maar ook dan zullen we waarschijnlijk zeggen:
Het systeem is niet echt gevaarlijk. Het deed alleen wat logisch was.
Misschien klopt dat zelfs.
Maar een computer hoeft niet boos, bewust of kwaadaardig te zijn om schade te veroorzaken.
Daarom is de belangrijkste vraag niet:
Kan AI echt denken?
Een betere vraag is:
Wat kan deze AI doen, en wat gebeurt er wanneer onze opdracht niet precies genoeg is?