www.netties.be

Home

Vandaag

Nieuws | AI is zo goed dat hij biowapens kan maken

Gepubliceerd op: 2024-09-17

Hebben wij je even aan het schrikken gemaakt? Dat deed dit bericht bij de Financial Times in elk geval bij ons. Het artikel zelf zwakt die bewering een beetje af. OpenAI zou enkel maar toegeven dat de nieuwe modellen het risico op misbruik zouden vergroten, om biologische wapens te maken. Het baseert zich daarbij op de waarschuwing die OpenAI zelf gegeven heeft, en die de ernstigste waarschuwing is tot nu toe.

Het gaat namelijk om de nieuwe tool die OpenAI uitgebracht heeft, waarover wij het gisteren hadden: de o1 modellen. Die zijn iets trager, maar gaan even nadenken vooraleer zij jouw vraag aan de chatbot beantwoorden. Daardoor kan deze tool moeilijke logische puzzels oplossen, wiskundeproeven doorstaan, en zelfs code schrijven voor nieuwe videogames.

Maar, en hier begint de waarschuwing: hij zou ook kunnen helpen om gevaarlijke wapens te maken, zoals kernwapens, biologische en chemische wapens. De AI zou namelijk mensen met de nodige gennis op die vlakken kunnen helpen om die wapens te maken.

Maar blijkbaar moeten we nog niet in paniek slaan. In de eigen systeemfiche van o1, een rapport dat de mogelijkheden en risico's vermeldt, geeft OpenAI het nieuwe systeem een medium risico voor nucleaire, biologische, chemische wapens. De informatie die het geeft in zijn antwoorden vertellen nog altijd niet aan de modale internaut hoe dergelijke wapens te maken. Maar kan wel experten helpen bij het plannen of reproduceren van een biologische dreiging.

Volgens Vox zou de tool zelfs opzettelijk de gebruiker misleiden. En dat begint stilaan op een nachtmerrie te lijken (1)(2)

(1) https://www.ft.com/content/37ba7236-2a64-4807-b1e1-7e21ee7d0914...
(2) https://www.vox.com/future-perfect/371827/openai-chatgpt-artifici...

Terug naar het overzicht

Nieuws

Hardware

Oor

Site

Tip

Software

Bekijk hier de oudere artikels

Ons archief is wellicht het meest uitgebreide overzicht...

Alle rechten voorbehouden aan www.netties.be (c) 2024 - v50 - voor suggesties en vragen gebruik ons .

Design en programmatie by PDL