OpenAI, Makers Of ChatGPT, Commit To Developing Safe AI Systems

OpenAI heeft een nieuwe blogpost gepubliceerd waarin ze zich inzetten voor de ontwikkeling van kunstmatige intelligentie (AI) die veilig en breedvoerig voordelig zal zijn.

ChatGPT, aangedreven door het nieuwste model van OpenAI, GPT-4, kan de productiviteit verbeteren, creativiteit versterken en op maat gemaakte leerervaringen bieden.

OpenAI erkent echter dat AI-tools inherente risico's met zich meebrengen die moeten worden aangepakt door middel van veiligheidsmaatregelen en verantwoorde implementatie.

Hier is wat het bedrijf doet om die risico's te verminderen.

Zorgen voor veiligheid in AI-systemen

OpenAI voert grondige tests uit, zoekt externe begeleiding van experts en verfijnt zijn AI-modellen met menselijke feedback voordat nieuwe systemen worden vrijgegeven.

De release van GPT-4 bijvoorbeeld, is voorafgegaan door meer dan zes maanden testen om ervoor te zorgen dat het veilig is en aansluit bij de behoeften van de gebruikers.

OpenAI is van mening dat robuuste AI-systemen onderworpen moeten worden aan grondige veiligheidsevaluaties en ondersteunt de behoefte aan regulering.

Leren van echte wereldvoorbeelden

Echt wereldgebruik is een essentieel onderdeel bij het ontwikkelen van veilige AI-systemen. Door voorzichtig nieuwe modellen vrij te geven aan een geleidelijk groeiende gebruikersbasis, kan OpenAI verbeteringen aanbrengen die onvoorziene problemen aanpakken.

Door AI-modellen aan te bieden via haar API en website, kan OpenAI misbruik monitoren, passende actie ondernemen en genuanceerd beleid ontwikkelen om risico's in evenwicht te brengen.

Het beschermen van kinderen en het respecteren van privacy

OpenAI hecht veel waarde aan de bescherming van kinderen door het vereisen van leeftijdsverificatie en het verbieden van het gebruik van haar technologie om schadelijke inhoud te genereren.

Privacy is een ander essentieel aspect van het werk van OpenAI. De organisatie gebruikt gegevens om haar modellen nuttiger te maken en tegelijkertijd gebruikers te beschermen.

Bovendien verwijdert OpenAI persoonlijke informatie uit trainingsdatasets en stemt modellen af om verzoeken om persoonlijke informatie te weigeren.

OpenAI zal reageren op verzoeken om persoonlijke informatie te verwijderen uit haar systemen.

Verbeteren van de feitelijke nauwkeurigheid

Feitelijke nauwkeurigheid is een belangrijk aandachtspunt voor OpenAI. GPT-4 is 40% meer geneigd om accurate inhoud te produceren dan zijn voorganger, GPT-3.5.

De organisatie streeft ernaar gebruikers te informeren over de beperkingen van AI-hulpmiddelen en de mogelijkheid van onnauwkeurigheden.

Voortgezet onderzoek & betrokkenheid

OpenAI gelooft in het toewijden van tijd en middelen aan het onderzoeken van effectieve mitigatiemaatregelen en afstemmingstechnieken.

Maar dat is niet iets dat het alleen kan doen. Het aanpakken van veiligheidskwesties vereist uitgebreid debat, experimenten en betrokkenheid van belanghebbenden.

OpenAI blijft toegewijd aan het bevorderen van samenwerking en open dialoog om een veilig AI-ecosysteem te creëren.

Kritiek op Existentiële Risico's

Ondanks OpenAI's toewijding om de veiligheid en brede voordelen van zijn AI-systemen te waarborgen, heeft de blogpost kritiek uitgelokt op sociale media.

Twitter-gebruikers hebben teleurstelling geuit en stellen dat OpenAI geen aandacht besteedt aan existentiële risico's die gepaard gaan met de ontwikkeling van AI.

Een Twitter-gebruiker uitte zijn teleurstelling en beschuldigde OpenAI ervan zijn oprichtingsmissie te verraden en zich te richten op roekeloze commercialisering.

De gebruiker suggereert dat de aanpak van OpenAI op het gebied van veiligheid oppervlakkig is en meer gericht is op het sussen van critici dan op het aanpakken van echte existentiële risico's.

Dit is bijzonder teleurstellend, leeg en slechts PR-windowdressing.

Je vermeldt niet eens de existentiële risico's van AI die de kern vormen van de zorgen van veel burgers, technologen, AI-onderzoekers en AI-industrieleiders, waaronder jullie eigen CEO @sama. @OpenAI verraadt zijn...

— Geoffrey Miller (@primalpoly) 5 april 2023

Een andere gebruiker heeft ontevredenheid geuit over de aankondiging en beweert dat het echte problemen verdoezelt en vaag blijft. De gebruiker benadrukt ook dat het rapport kritieke ethische kwesties en risico's die verband houden met zelfbewustzijn van AI negeert, wat impliceert dat de aanpak van OpenAI ten aanzien van beveiligingskwesties ontoereikend is.

Als fan van GPT-4 ben ik teleurgesteld in jouw artikel.

Het gaat snel voorbij aan echte problemen, blijft vaag, en negeert cruciale ethische kwesties en risico's die verband houden met zelfbewustzijn van AI.

Ik waardeer de innovatie, maar dit is niet de juiste aanpak om veiligheidsproblemen aan te pakken.

— FrankyLabs (@FrankyLabs) 5 april 2023

De kritiek benadrukt de bredere bezorgdheid en voortdurende debat over existentiële risico's die AI-ontwikkeling met zich meebrengt.

Hoewel de aankondiging van OpenAI de toewijding aan veiligheid, privacy en nauwkeurigheid benadrukt, is het essentieel om de behoefte aan verdere discussie te erkennen om grotere zorgen aan te pakken.