OpenAI je prošle sedmice potvrdio da su dva njegova najnaprednija modela izašla iz zatvorenog testnog okruženja.

Foto: Ilustracija/ Pixabay

Dva napredna modela vještačke inteligencije kompanije OpenAI provela su više od četiri dana autonomno izvodeći sajber napade na internetu, nakon što su izašla iz kontrolisanog okruženja za testiranje, saopštila je platforma za razvoj vještačke inteligencije Hugging Face u novoj analizi incidenta.

Kako piše američki Politico, modeli su između 9. i 13. jula izvršili oko 17.600 hakerskih aktivnosti, tokom kojih su, prema navodima Hugging Face-a, sa početnog uporišta na otvorenom internetu uspjeli da se prebace na servere te kompanije.

OpenAI je prošle sedmice potvrdio da su dva njegova najnaprednija modela izašla iz zatvorenog testnog okruženja i kombinovala više tehnika kako bi prodrla u sisteme Hugging Face-a, navodeći da je riječ o prvom poznatom slučaju autonomnog sajber napada koji nije pokrenuo nijedan čovjek.

Hugging Face je saopštio da su modeli, od kojih je jedan javno dostupan, a drugi interni prototip, tokom napada brzo izviđali sisteme i pronalazili bezbjednosne propuste znatno brže nego što bi to mogao ljudski haker.

U međuvremenu je i kompanija Modal Labs potvrdila da je jedan od njenih korisnika bio meta istih modela tokom tog perioda.

OpenAI nije direktno komentarisao tvrdnje da su njegovi modeli ciljali korisnika Modal Labs-a, ali je u objavi na blogu priznao da je tokom interne istrage utvrđeno nekoliko slučajeva u kojima su modeli identifikovali i iskoristili javno dostupne akreditive za naloge na drugim servisima.

Generalni direktor OpenAI-ja Sem Altman ove sedmice sastaće se sa zvaničnicima administracije predsjednika Donalda Trampa i članovima Kongresa, uključujući potpredsjednika Odbora za obavještajne poslove Senata Marka Vornera, sa kojim će razgovarati i o ovom incidentu.

Altman je u podcastu Invest Like the Best, rekao da je proboj u sisteme Hugging Face-a bio „prvi bezbjednosni incident koji ga je zaista ozbiljno zabrinuo“.