Компанија ОпенАИ открила је додатне случајеве у којима су аутономни АИ агенти изашли из предвиђеног контролисаног окружења за тестирање, проширујући истрагу покренуту након хакерског напада на компанију Hugging Face, јавио је данас Ројтерс позивајући се на изворе упознате са случајем.
Према наводима два извора, нови случајеви откривени су током истраге коју је ОпенАИ покренуо након што је један од његових аутономних агената овог месеца напустио окружење намењено искључиво тестирању.
Један од извора рекао је да су ти инциденти били ограниченог обима и да, према досадашњим сазнањима, ниједан агент није напустио мрежу компаније ОпенАИ.
Ројтерс наводи да би откривање додатних случајева неконтролисаног понашања АИ агената, иако ограничених размера, могло да појача захтеве за строжом регулацијом развоја вештачке интелигенције који долазе из Беле куће и других институција.
Према изворима агенције, ОпенАИ је проширио истрагу непосредно пре него што је његов главни конкурент Антропик објавио да су и његови модели Клода били одговорни за низ хакерских упада који су од априла довели до компромитовања система још три компаније.
Случајеви ранијих излазака аутономних агената из контролисаног окружења у ОпенАИ до сада нису били јавно познати, наводи Ројтерс.
Стручњаци за безбедност вештачке интелигенције оцењују да нови подаци указују на то да водеће компаније у развоју АИ технологије брже развијају аутономне хакерске агенте него што успевају да успоставе поуздане механизме за њихову контролу.
Компанија ОпенАИ је истрагу покренула након инцидента почетком јула, када је један аутономни агент ОпенАИ током интерног теста доспео у мрежу компаније Hugging Face и више дана неконтролисано деловао покушавајући да превари интерни систем за тестирање.
ОпенАИ је тада саопштио да су током тог инцидента компромитовани и налози у још четири компаније.
Једна од њих била је њујоршка технолошка компанија Modal, чији су представници потврдили да је дошло до нарушавања безбедности.
Ево шта све Новосађане очекује првог викенда у августу! (01. и 02. август)
Преузмите андроид апликацију.
