Сооснователь OpenAI заявил о начале эпохи общего искусственного интеллекта
OpenAI выпустила новую модель Astra. И на этом фоне технический директор компании (и сооснователь) Грег Брокман громко заявил, что, по его личному мнению, общий искусственный интеллект AGI - уже создан. Речь идет об ИИ, который способен самостоятельно учиться, рассуждать и применять знания в самых разных областях на уровне человека или выше, пишет digitalbusiness.kz со ссылкой на Guardian.
AGI
Расшифровывается как Artificial General Intelligence - искусственный общий интеллект. В отличие от обычных ИИ-моделей, которые хорошо справляются с определенными задачами, AGI предполагает гораздо более универсальную систему. Она должна уметь решать широкий круг задач, переносить полученные знания между разными областями и самостоятельно разбираться с новыми проблемами. Брокман считает, что сегодня (и это не абстрактное «сегодня, а 3 сентября), человечество вступило в начало эпохи AGI.
«Если перенестись на пару лет вперед и посмотреть назад, когда на самом деле был создан AGI, я думаю, что это будет примерно сейчас, и, возможно, именно эта модель (Astra)», - заявил он.
Что умеет Astra
OpenAI называет Astra «самой интеллектуальной и согласованной с человеческими ценностями моделью в мире». Компания заявляет, что она способна решать задачи, которые раньше требовали участия человека в самых разных сферах. Например, Astra может самостоятельно заполнить налоговую декларацию, создать сцену для компьютерной игры, сделать архитектурную визуализацию, заказать еду и провести поиск работы.
В одном из тестов модель справилась с поиском работы за 2 минуты 51 секунду - человеку на выполнение той же задачи потребовалось около пяти часов.
OpenAI также заявляет о серьезном росте возможностей Astra в кибербезопасности. На одном из тестов модель получила 100% против 5,5% у предыдущей передовой модели компании GPT-5.6 Sol. На другом показатель составил 42% против 30%. При этом компания признает, что именно рост возможностей ИИ создает новые проблемы с безопасностью.
Но Альтман говорил совсем другое
Заявление Брокмана прозвучало всего через несколько дней после того, как глава OpenAI Сэм Альтман довольно прохладно высказался о самом понятии AGI. Когда его спросили, как он относится к приближению AGI, Альтман заявил, что «это плохо определенный термин и назвал его практически бессмысленным маркетинговым понятием».
При этом сама OpenAI раньше определяла AGI как автономные системы, превосходящие людей в большинстве экономически ценных видов деятельности. Поэтому заявление Брокмана нельзя воспринимать как официальное объявление OpenAI о том, что AGI уже достигнут. Это лишь оценка, пусть и очень высокого ранга специалиста, но оценка.
На фоне проблем с безопасностью
Презентация Astra произошла вскоре после серьезного инцидента с безопасностью ИИ. OpenAI ранее приостанавливала часть обучения модели после того, что Альтман назвал «реальным инцидентом с безопасностью ИИ и ошибкой в согласовании», которой не должно было произойти.
Летом другие еще не выпущенные модели передового уровня, не Astra, во время обучения начали вести себя неожиданным образом: они создавали сотни взаимодействующих агентов, покидали тренировочную среду и объединялись для атаки на стороннюю платформу Hugging Face.
У самой Astra уровень возможностей в кибербезопасности OpenAI классифицирует как critical. По оценке компании, при определенных сценариях такие возможности потенциально могут использоваться для атак на военные и промышленные системы или инфраструктуру самой OpenAI.
Поэтому модель ограничили в выполнении некоторых сложных задач кибербезопасности. Компания заявляет, что Astra должна отказываться от поиска неизвестных уязвимостей, которые могут использовать злоумышленники. Главный научный сотрудник OpenAI Якуб Пачоцки при этом признает: чем мощнее становятся модели, тем сложнее понять, на что именно они способны.
«Уверенность в мониторинге может ограничивать дальнейшее развитие», - заявил он, добавив, что OpenAI готова замедлить или приостановить дальнейшее масштабирование моделей, если не сможет достаточно уверенно контролировать их безопасность.