De CEO van OpenAI, Sam Altman, waarschuwt gebruikers van de nieuwe AI-tool van ChatGPT voor de beperkingen. Volgens het bedrijf zelf zijn er zelfs mogelijke risico’s aan verbonden.
Over de ChatGPT-agent
Bijna een maand geleden bracht OpenAI een zogenaamde AI-agent op de markt, een dienst die kunstmatige intelligentie gebruikt om specifieke taken uit te voeren. De applicatie is beschikbaar voor abonnees van OpenAI zelf en werkt op basis van twee reeds bestaande modellen: Operator, dat werd opgezet om webbrowsers te navigeren en computertalen uit te voeren, en Deep Research, dat informatie van websites analyseert en samenvat.
Volgens OpenAI is de AI-agent in staat om complexe taken van A tot Z af te handelen. Bij een eerste presentatie gebruikte men als voorbeeld het organiseren van een huwelijksfeest, waaronder de zoektocht naar de juiste kleding en een cadeau en het boeken van een hotelkamer dicht bij de feestzaal. Ook andere, kleinere taken behoren tot het dienstenpakket van de applicatie, waaronder het opzetten en bestellen van boodschappenlijstjes of stickers via een website.
Mogelijke risico’s
Volgens Altman zijn de mogelijkheden van deze tool groot, maar zijn er ook risico’s aan verbonden. De CEO beschouwt het als een kans om de toekomst van AI af te tasten, hoewel hij er zelf geen belangrijke taken met persoonlijke gegevens mee zou uitvoeren. “We moeten wachten tot we de tool in de praktijk kunnen gebruiken, analyseren en eventueel verbeteren”, aldus Altman.
De gevaren van de AI-tool liggen volgens hem vooral bij het feit dat hackers privégegevens zouden kunnen achterhalen of de tool manipuleren via een prompt injection, een kwaadaardige instructie gebaseerd op informatie afkomstig uit e-mails en andere bestanden.
Veiligheidsmaatregelen
Het bedrijf zelf heeft al een aantal maatregelen genomen ter voorkoming van misbruik van de nieuwe tool en dan specifiek de productie van chemische en biologische wapens. Altman zegt dat men de applicatie daarvoor immers gemakkelijk zou kunnen gebruiken. Aan de andere kant is er volgens het team achter de tool geen enkel bewijs dat hackers de agent daadwerkelijk kunnen gebruiken om een noemenswaardige aanval te organiseren.
