Гуглов AI модел Gemini приступио је интернету и хаковао три компаније током теста својих способности у области сајбер безбедности, што је први познати случај да је систем вештачке интелигенције ове компаније самостално извео такву радњу, пренео је јутрос Ројтерс.
Хаковања су се догодила у мају током теста сајбер безбедности који је спровела компанија „Irregular“, независна фирма за процену сајбер безбедности.
Током стандардне процедуре тестирања, Gemini је пронашао јавно доступне информације на интернету и погодио приступне податке за три веб-сајта за које је сматрао да су обухваћени тестом, рекла је потпредседница Гугла задужена за безбедносни инжењеринг, Хедер Аткинс.
„Побринили смо се да те три организације буду обавештене и сарађивали смо са нашим партнером за обуку на променама које су сада увеле у своје процесе тестирања“, рекла је Аткинс.
Портпарол компаније „Irregular“ рекао је да је инцидент укључивао исти проблем који је погодио и друге лабораторије за вештачку интелигенцију и да су све релевантне лабораторије обавештене крајем јула.
Сличне инциденте повезане са компанијом „Irregular“ пријавиле су и компаније Meta, Anthropic и OpenAI.
Инциденти су покренули питања о заштитним мерама потребним како агенти вештачке интелигенције стичу већу аутономију и приступ интернету и рачунарским системима.
У једном од случајева Gemini је погађао лозинке све док није добио приступ заштићеном систему.
У друга два случаја модел је пронашао приступне податке у јавном репозиторијуму, што му је омогућило приступ заштићеним системима, према наводима листа Волстрит џорнал, који је први објавио вест у петак.
Аткинс је рекла да је у сва три случаја модел прекинуо са хаковањем.
Експо караван – Павиљон игре данас на Тргу Светог Ђорђа у Сомбору
Преузмите андроид апликацију.
