Демис Хассабис предложил создать орган для проверки ИИ-моделей перед выпуском

Демис Хассабис, глава Google DeepMind, выдвинул инициативу о создании в США специального органа для стандартизации и проверки передовых ИИ-моделей перед их выходом на рынок. По его мнению, общий искусственный интеллект (AGI) может стать реальностью уже в ближайшие несколько лет, и его влияние будет сопоставимо с историческими открытиями, такими как электричество и огонь. Хассабис подчеркивает, что AGI должен обладать всеми когнитивными способностями человеческого мозга и его влияние будет гораздо более значительным, чем развитие интернета или мобильных технологий. Он считает, что AGI может значительно ускорить прогресс в таких областях, как разработка новых лекарств, чистая энергия и новые материалы. Но он также предостерегает о рисках, связанных с быстрым развитием технологий: современные ИИ-модели уже создают угрозы в кибербезопасности, и с их развитием могут возникнуть новые биологические и ядерные риски. Хассабис предложил создать Frontier AI Standards Body, аналогичную FINRA, которая будет состоять из независимых экспертов и представителей сообщества открытого кода, и будет разрабатывать протоколы оценки совместно с федеральными ведомствами. На первом этапе компании смогут добровольно подать свои модели на проверку за 30 дней до их релиза, а в дальнейшем эта процедура может стать обязательной. Президент США Дональд Трамп в июне подписал указ о добровольной проверке кибервозможностей ИИ-моделей, что подчеркивает важность данной инициативы.