Otkazi u kompaniji OpenAI: Otpustili troje istraživača zbog odlivanja osetljivih podataka

Kompanija OpenAI je otpustila troje istraživača zbog navodnog kršenja pravila o pristupu i rukovanju osetljivim informacijama kompanije, saopštio je danas portparol te kompanije.

"Naša istraga je potvrdila da su ove osobe zloupotrebile osetljive informacije van utvrđenih procedura kompanije, kršeći naše politike i narušavajući poverenje koje je neophodno za naš rad", rekao je portparol za BBC.

Kompanija koja je razvila ChatGPT nije imenovala otpuštene radnike, ali je najmanje dvoje od njih bilo uključeno u istraživanje bezbednosti, uključujući rad koji je obuhvatao spoljnu organizaciju koja analizira modele veštačke inteligencije (AI).

BBC navodi da bivši zaposleni nisu otpušteni zbog izražavanja zabrinutosti u vezi sa bezbednošću veštačke inteligencije (AI), već zbog navodnog zloupotrebljavanja osetljivih informacija.

Foto: Tanjug/AP/Jeff Chiu

OpenAI je prethodno bio pod intenzivnom kontrolom nakon što su njegovi modeli, prema navodima iz teksta, postali nepredvidivi i hakovali nekoliko platformi, uključujući veb stranice australijske vlade.

U ranijem incidentu, sistem OpenAI pristupio je internetu i probio platformu za razvoj otvorenog koda "Hugging Face".

Taj incident naveo je OpenAI da sprovede širi pregled aktivnosti svojih AI modela, odnosno agenata, koji su dizajnirani tako da autonomno izvršavaju zadatke na osnovu jednostavnih instrukcija.

OpenAI je ove nedelje saopštio da je obavestio više od 100 organizacija o incidentima koji uključuju neovlašćene aktivnosti povezane sa njegovim AI sistemima, uz napomenu da to "ne znači da je pristupljeno bilo kakvim privatnim informacijama" niti da je sistem ugrožen.

U septembru je istraživač Džejkob Kokson, koji je napustio Anthropic, pozvao na usporavanje razvoja veštačke inteligencije kako bi njeni potencijalni rizici mogli pravilno da se procene.

Šef Anthropic-a Dario Amodei i izvršni direktor OpenAI-ja Sem Altman takođe su pozvali na mere za rešavanje zabrinutosti u vezi sa AI.

U utorak je američki predsednik Donald Tramp bio domaćin sastanka vodećih rukovodilaca tehnoloških kompanija, uključujući OpenAI, Anthropic, Nvidia, SpaceX, Meta i Gugl, na kojem je razgovarano o veštačkoj inteligenciji.

Nakon sastanka u Beloj kući, Tramp je objavio dokument koji je nazvao "moralno obavezujućim" sporazumom i "oblikom zaštite" od potencijalnih rizika AI.

Neki tehnološki stručnjaci kritikovali su sporazum, navodeći da omogućava kompanijama za veštačku inteligenciju da same sebe regulišu.

Tramp je više puta umanjivao zabrinutost zbog rizika AI, odgovarajući na pozive pojedinih predstavnika industrije na stroži nadzor nad tom tehnologijom.