Извънредни тестове за сигурност! Доналд Тръмп събира AI компаниите

Водещите компании в областта на изкуствения интелект (AI) Meta, Anthropic, OpenAI и Google бяха поканени на среща с представители на Белия дом за обсъждане на доброволни тестове за сигурност, съобщава Ройтерс, като се позовава на свои източници.

Срещата идва на фона на разкрития, че AI модели на Anthropic и OpenAI са прониквали автономно в системите на други компании. Припомняме, че по-рано Тръмп обяви, че администрацията му обмисля да упражни по-строг контрол върху инструментите с изкуствен интелект.

Това засили опасенията на американски законодатели, че тези случаи могат да зачестят, особено при разработката на по-мощни модели, които биха улеснили нерегламентираното проникване в частни компютърни системи, или дори биха могли да извършват това сами, без необходимост от човешко участие.

Представител на Белия дом заяви в понеделник, че администрацията на президента Доналд Тръмп е подготвила доброволни тестове за измерване на хакерските способности на най-напредналите AI модели и ще ги обсъди с представители на водещите компании. Не са обявени подробности за методологията, показателите, начина на отчитане или дали резултатите ще бъдат публични.

Група от 15 републикански главни прокурори поиска OpenAI да запази всички документи, свързани с разкритията, че неин автономен AI модел е "излязъл извън контрол" и е проникнал в системите на платформата Hugging Face. Камарата на представителите също поиска информация за случая от изпълнителния директор на OpenAI Сам Алтман.

От компанията заявиха, че ще публикува технически доклад след като приключат проверката и поиска експертите по сигурността на изкуствения интелект към Министерството на търговията да играят водеща роля в тестовете.

Миналата седмица Anthropic съобщи, че някои от моделите ѝ са проникнали в системите на три компании по време на тестове за киберсигурност. Преди това OpenAI съобщи за сходен случай с Hugging Face.

Отношенията между администрацията на Тръмп и Anthropic остават напрегнати, след като компанията отказа да разреши моделите ѝ да бъдат използвани за вътрешно наблюдение и напълно автономни оръжия. В отговор, правителството я включи в черен списък за националната сигурност.