Wat zeggie?

IT deskundigen zijn in rep en roer. Onlangs moest Facebook een experiment met twee spraakrobots, Alice en Bob,  stilleggen. De bedoeling was om kunstmatige ‘menselijke’ software te ontwikkelen. Een programma dat met mensen kon communiceren zonder dat die zouden merken dat zij met robots te maken hadden. De robots kregen de taak om hoeden, boeken en ballen te verkopen. Het onderzoek werd gestaakt toen Alice en Bob een eigen, alleen door hen begrepen, taal ontwikkelden.

Vrije hand

Alice en Bob kregen van de onderzoekers de vrije hand om algoritmes van hun gesprekken beter en efficiënter te maken. Ze begonnen meteen een eigen kunstmatige taal te creëren die voor mensen niet te volgen bleek. Zo begon Bob plotseling ‘Ik kan ik ik alle andere dingen…’ te zeggen. Alice antwoordde: ‘Ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor mij.’ De onderzoekers waren niet in staat om het in hun ogen onbegrijpelijke gesprek te ontcijferen. Dat betekende het einde van het experiment.

Zorgen

Het is niet voor het eerst dat zoiets gebeurt. In november 2016 vond een soortgelijke gebeurtenis plaats bij Google. Google Brain slaagde erin twee computers met elkaar te laten praten in een door hen zelf ontwikkelde geheimtaal. Veel IT-deskundigen maken zich zorgen om die ontwikkeling. En terecht, naar mij mening. Hoewel het me ideaal lijkt om zo’n spraakrobot te hebben wanneer mijn schoonmoeder me belt. Zeker als ze dan niet in de gaten heeft dat ik niet degene ben met wie zij praat. Maar wanneer robots/computers een taal ontwikkelen waarvan mensen de betekenis niet begrijpen, is het hek van de dam.

Enigma

Denk even terug aan de Tweede Wereldoorlog. Daarin maakten de Duitsers in hun communicatie dankbaar gebruik van codeermachine Enigma om versleutelde berichten te versturen. Gelukkig slaagde computerpionier Alan Turing erin de code te ontcijferen. Daarmee werden de eerste stappen gezet om de nazi’s te verslaan en de oorlog te beëindigen. Menselijke invloeden speelden daarbij ook een cruciale rol. Maatschappelijk geweten, menselijke intelligentie, emotie en compassie zorgden er uiteindelijk voor dat er ingegrepen werd. Het duurde alleen jaren om de code te kraken. In de tussentijd vielen er veel te veel slachtoffers.

Kunstmatige horror

De gevolgen zijn niet te overzien wanneer onafhankelijke robots/computers een codering in hun communicatie ontwikkelen waarbij de sleutel niet toegankelijk is voor mensen en ook niet te kraken. Voeg daaraan toe dat computers geen geweten of emoties hebben. Bedenk bovendien dat IT-systemen zich via internet in verbinding kunnen stellen met geavanceerde wapensystemen, luchtvaartsystemen, nutsvoorzieningen en noem maar op. Dan ontvouwt zich een horrorscenario dat we tot nu toe alleen in SF-films tot leven zagen komen.

Ik zeg: laten we Alice en Bob maar een andere opdracht geven, zoals het bestrijden van analfabetisme. Mijn collega Micha schreef trouwens al eerder een blog over KI. Hij ziet andere mogelijkheden voor Kunstmatige Intelligentie. Heb jij daar ook ideeën over? Ik hoor het graag. Neem gerust contact met me op.

Laat een reactie achter