Home » Eksistensiell krise hos OpenAI, frykt for AI-misbruk er aktuelt

Eksistensiell krise hos OpenAI, frykt for AI-misbruk er aktuelt

by Siv Jensen

SAN FRANCISCO, USA: Kongen av generativ kunstig intelligens i et år, OpenAI er truet med forsvinning etter at sjefen Sam Altman forsvant, noe som utløste en stor krise midt i frykt for de potensielle farene ved AI.

Mandag kveld signerte rundt 700 av den kaliforniske oppstartsvirksomhetens rundt 770 ansatte brevet der de lovet å gå dersom styret nektet å trekke seg, ifølge flere medier.

Rådet kritiserte Sam Altman for å ha prioritert den raske utviklingen av OpenAI, skaperen av ChatGPT-grensesnittet, uten å ta seg tid til å analysere de tilknyttede risikoene, rapporterte amerikanske medier.

For Brendan Dolan-Gavitt, professor i informatikk ved New York University’s Tandon College, er denne oppgaven validert ved ankomsten av Emmett Shear, utnevnt til å etterfølge Sam Altman. «Han uttrykte ofte bekymring for sikkerheten til kunstig intelligens,» minnes akademikeren.

«Vi kom til dette punktet fordi science fiction-entusiaster og tabloidjournalister forsterket små risikoer»fordømte, i en artikkel publisert av The Information-siden, Vinod Khosla, grunnlegger av private equity-selskapet Khosla Ventures, en aksjonær i OpenAI.

Blant truslene fra utviklingen av generativ AI er muligheten for at programmene kan brukes til militære formål, desinformasjon eller bli autonome og angripe mennesker.

«Det er på tide å fokusere på risikoen ved AI, men ikke til det punktet å bremse fremdriften og frata oss fordelene,» sa Vinod Khosla.

De siste dagenes hendelser har markert grensene for OpenAI-modellen, som ønsket å sette et selskap der finansielle aktører har satset milliarder av dollar under kontroll av et non-profit holdingselskap.

Administratorer «hadde mistet virkelighetssansen,» sa Carolina Milanesi fra Creative Strategies. «Hvordan kan du fortsatt være en ideell organisasjon når du tar på deg så mange mennesker som Microsoft?»

Redmond (Washington-staten)-giganten har gitt ut, ifølge forskjellige medier, en begavelse på ti milliarder dollar for sitt partnerskap med OpenAI, spesielt ved å tilby enorme databehandlingsmuligheter for å utvikle modellene sine.

– Microsoft som vinner –

Sekvensen «fremhever det faktum at vi ikke kan tillate selskaper å selvregulere AI, mens det er avvik innenfor deres egen styring,» kommenterte Gary Marcus, spesialist på kunstig intelligens og gründer, på X (ex-Twitter).

«Vennligst ikke gi opp AI-loven; «Vi trenger det mer enn noen gang,» fortsatte han, og refererte til teksten som er ment å regulere kunstig intelligens og som for tiden diskuteres i EU.

OpenAI-skismaet «vil fremskynde mange ting på regulatorisk front,» advarte Ryan Steelberg, administrerende direktør i Veritone, et dataanalyseselskap som bruker AI.

«Dette vil imidlertid ikke stoppe kappløpet om generativ kunstig intelligens,» advarer Carolina Milanesi. «Dette er rett og slett endringer i styrerommet som setter Microsoft i en bedre posisjon.»

Selv om situasjonen langt fra er frossen hos OpenAI, ser skaperen av Windows allerede ut til å være den store vinneren i denne sagaen.

Uten å forårsake noe, hentet Microsoft Sam Altman, samt flere tidligere ledere som valgte å forlate OpenAI..

I følge Microsoft-sjef Miguel Fierro har administrerende direktør Satya Nadella forpliktet seg til å ansette alle OpenAI-ansatte som bestemmer seg for å trekke seg på grunn av at ledere ikke slutter.

Operativsystemgiganten som ble en ekstern databehandling (sky) og AI-juggernaut ville ha absorbert drivkreftene til OpenAI uten å måtte bekymre seg for regulatorisk godkjenning.

«Hvis Microsoft hadde prøvd å kjøpe OpenAI, ville de aldri ha fått grønt lys fra konkurransemyndighetene,» sier Carolina Milanesi.

«Microsoft har nettopp gjort det billigste oppkjøpet noensinne,» sa Paul Barrett, nestleder for senteret for næringsliv og menneskerettigheter ved New York Universitys Stern College.

«Min bekymring», moderater den akademiske, «er at dette vil akselerere kappløpet om AI», ledet av private for-profit-selskaper, «og få folk til å glemme at alt dette bør være gjenstand for en offentlig debatt.»

You may also like