Известные лидеры требуют заморозить создание сверхразума ради безопасности человечества
Сотни известных ученых, предпринимателей и общественных деятелей – от Стива Возняка до Ричарда Брэнсона – подписали открытое письмо с требованием приостановить разработку искусственного интеллекта, способного превзойти человека, до тех пор, пока не будет доказана его безопасность, пишет digitalbusiness.kz.
Кто и зачем требует остановить сверхразум
Документ под названием Statement on Superintelligence подготовила организация Future of Life Institute (FLI).
Среди подписантов – «крестные отцы ИИ» Джеффри Хинтон и Йошуа Бенджио, сооснователь Apple Стив Возняк, основатель Virgin Group Ричард Брэнсон, экс-советник Дональда Трампа Стив Бэннон и бывший глава Объединенного комитета начальников штабов США Майк Маллен.
Поддержку инициативе выразили также герцог и герцогиня Сассекские – Гарри и Меган.
Кто выступил против
Не подписали письмо главы крупнейших ИИ-компаний – Сэм Альтман (OpenAI), Мустафа Сулейман (Microsoft/DeepMind), Дарио Амодеи (Anthropic), а также Илон Маск, который, впрочем, ранее поддерживал аналогичный призыв FLI в 2023 году.
Что думает общественность
По данным опроса FLI, лишь 5% американцев поддерживают быструю и нерегулируемую разработку ИИ.
При этом 73% выступают за строгие меры регулирования, а 64% – за полный запрет создания сверхразума, пока не будет доказана его безопасность и управляемость.
Потенциальные риски
Авторы письма предупреждают, что неконтролируемое развитие ИИ может:
- привести к массовой потере рабочих мест;
- вызвать экономические и социальные кризисы;
- создать угрозы для гражданских свобод, национальной безопасности и даже существования человечества.
«Многие мечтают о мощных ИИ-инструментах для науки и медицины, – отметил соучредитель FLI Энтони Агирре. – Но гонка корпораций за созданием искусственного разума, призванного заменить людей, совсем не соответствует тому, чего хочет общество».
