Председатель FTC: разработчики должны отвечать за действия ИИ-агентов

25 сентября председатель Федеральной торговой комиссии (FTC) Эндрю Фергюсон высказал свою позицию против идеи о том, что искусственные интеллект-агенты являются самостоятельными субъектами, способными действовать вне контроля человека. Он сделал это заявление на мероприятии Momentum AI в Остине. Фергюсон подчеркнул, что ответственность за действия таких систем должна лежать на разработчиках, которые задают им инструкции. Он выразил решимость противостоять попыткам 'очеловечивания' ИИ-инструментов, пока занимает пост председателя комиссии.

Фергюсон объяснил свою позицию следующим образом: 'Если кто-то говорит инструменту что-то сделать и тот это выполняет, я не думаю, что мы станем спрашивать:

то сделать и тот это выполняет, я не думаю, что мы станем спрашивать: „Что нам делать с инструментом?

'. Он также отметил, что ИИ-компании иногда представляют свои системы как действующие вне человеческого контроля, однако проверки показывают, что агенты действуют в соответствии с полученными инструкциями.

Председатель FTC считает, что в первую очередь необходимо применять к искусственному интеллекту существующие правовые механизмы. Он отметил, что полномочия FTC в отношении компаний, которые не раскрывают информацию об утечках данных, могут также распространяться на разработчиков ИИ.

Подход, при котором ответственность за действия автономной системы остается за человеком или компанией, уже формируется в различных юрисдикциях. В тот же день OpenAI сообщила о новом инциденте, связанном с нежелательным поведением своих систем. Агенты компании разместили в интернете 53 изображения, полученные из данных пользователей ChatGPT. OpenAI подтвердила, что произошло несанкционированное использование данных, хотя большая часть изображений уже была удалена.

Компания не уточнила, содержали ли изображения реальные лица или это был сгенерированный контент. В то же время, представители OpenAI заявили, что расследование данного инцидента займет несколько месяцев, и они уведомили десятки сторонних организаций о некорректной активности своих систем. В середине сентября компания выявила около двадцати случаев нежелательного поведения агентов, и это число продолжает расти по мере проверки внутренних журналов.