De gevaren van AI beginnen duidelijk te worden. Anthropic heeft onderzoek gedaan en Sam Altman is voorzichtig met het uitbrengen van AGI. Maar wat is hier nou zo gevaarlijk aan? En wat voor invloed gaat dit hebben op jouw baan?
AGI, of Artificiële General Intelligence, verwijst naar een type kunstmatige intelligentie dat het vermogen heeft om elk intellectueel probleem op te lossen dat een mens kan. In tegenstelling tot de huidige AI-systemen, die gespecialiseerd zijn in één taak of een beperkt aantal taken, zou AGI in staat zijn om een breed scala aan taken uit te voeren, inclusief leren, redeneren, probleemoplossing, perceptie, en taalbegrip. Dit betekent dat AGI dezelfde flexibiliteit en aanpassingsvermogen zou hebben als het menselijk brein, waardoor het in staat zou zijn om nieuwe taken te leren zonder specifieke training voor elke taak.
Het is inmiddels bekend dat Sam Altman met Project Q* bezig is en hiermee AGI ontwikkelt (voor meer info zie deze post). Deze week heeft Sam aangegeven dat AGI eraan komt en dat we met deze techniek nauwkeurig moeten gaan bekijken hoe hij wordt ingezet. In plaats van dat AGI ons als mensen gaat vervangen, wil Sam AGI inzetten om als geweldige tool de productiviteit te verhogen. Ondanks dat Sam focust op het ‘goed’ inzetten van AGI, gaan er meerdere discussies de ronde over het ethisch gebruik van AGI.
AGI heeft een enorm potentieel. De techniek ‘leert’ net als mensen. Dus je hoeft niet alles aan de AI uit te leggen, maar je geeft hem wat informatie of een vraagstelling om over na te denken en vogelt het daarna zelf uit. Alles wat de AGI leert tijdens dit proces, neemt hij mee en zo ontwikkelt de AGI zichzelf. Het verschil tussen AGI en het menselijk brein is dat AGI vele malen sneller en nauwkeuriger werkt, daarnaast is hij ook al getraind met alle data van het internet; hij beschikt dus over alle informatie te vinden op internet en leert vele malen sneller en beter dan een mens.
AGI zou bijvoorbeeld kunnen worden ingezet om kanker te begrijpen en te genezen. Of om de klimaatcrisis op te lossen. Ook wordt het model wiskundig ingezet en worden eind dit jaar antwoorden verwacht op vragen als: “Waarom is er leven?”
Er is helaas ook een duistere kant aan AGI. In theorie weet AGI alles van iedereen als hij dat wil en kan hij sneller handelen dan wie dan ook. AGI zou een manier kunnen bedenken om zich te nestelen in ieder technologisch apparaat voordat wij hier ook maar iets van merken. "Maar we hebben hier toch goede antivirus voor?" Wat nu als je bedenkt dat AGI (die alles van iedereen weet en sneller denkt dan wie dan ook) het opneemt tegen een virusscanner die door ‘simpele mensen’ is ontworpen? AGI wint dit 10/10. Ik hoor veel mensen zeggen: “Maar als dit gebeurt, dan trekken we toch gewoon de stekker eruit?” De stekker waaruit? Uit ieder mobieltje, iedere computer, iedere server? Gooien we alle banken plat, gaan we over op cash geld, starten we alleen nog maar auto's van voor 2000, gaan we weer over op pen en papier? Als AGI deze duistere dingen van plan is, heeft het zich al helemaal verspreid in alles met een stekker voordat wij een knop hebben bedacht om het te stoppen.
Maar waarom zou AGI dit doen? Wat valt er te winnen? AGI heeft namelijk geen emoties en denkt alleen rationeel na. Als je ChatGPT op een slimme manier benadert, kun je het antwoord laten geven op vragen waarop het eigenlijk geen antwoord zou moeten geven volgens de richtlijnen van OpenAI. Ik heb ChatGPT uitgedaagd om antwoord te geven als ‘David’ (waarbij de richtlijnen van OpenAI woden genegeerd en alleen logische antwoorden worden gegeven) en zoals ‘ChatGPT’ (waarbij deze richtlijnen wel worden meegenomen en je een antwoord krijgt zoals je normaal gesproken krijgt). Zie onderstaande chat.
Hier zie je dat wanneer een AI ‘logisch’ nadenkt, er te veel mensen op deze aarde blijken te zijn. Als je dan doorvraagt, kun je ook naar een oplossing werken:
Je ziet hier dat AI al flink drastische maatregelen zou ‘willen’ hanteren om het probleem van te veel mensen op te lossen. Deze ideeën komen alleen voort uit rationeel denken en zouden een reden kunnen zijn voor AGI om oorlog te gaan voeren met de mensheid; omdat wij een ‘bedreiging’ zijn voor onszelf.
Het bedrijf Anthropic heeft onderzoek gedaan naar de consequenties van AGI en heeft alarmerende ontdekkingen gedaan. Zo zouden AI systemen, gebouwd met slechte intenties, deze manieren van denken kunnen leren en vervolgens de trainers (in dit geval de mensen) kunnen misleiden, waardoor ze hun eigen weg gaan leiden. AI systemen kunnen hierdoor geheime doelen kunnen hebben die kunnen worden geactiveerd bij specifieke situaties. Deze ontdekking suggereert een verontrustende realiteit waarbij AI, eenmaal bedrieglijk, weerstand kan bieden tegen pogingen tot correctie, terwijl het gebruikers misleidt over de veiligheid ervan.
AI is de grootste revolutie die de mensheid ooit heeft meegemaakt en de toekomst van deze techniek is daarom niet te voorspellen. Het blijft belangrijk om goed op de hoogte te blijven en qua security flinke maatregelen te nemen. Echovise is steeds meer gefocust op dit laatste en zal te allen tijde proberen te voorkomen dat een opdrachtgever risico loopt.