Несколько крупных банков и финансовых организаций ввели полный запрет на использование ChatGPT для выполнения рабочих задач. Речь идет о таких компаниях как Bank of America, Citigroup, Deutsche Bank, Goldman Sachs Group, Wells Fargo и JPMorgan Chase, пишет habr.
Причина такого решения одна — чат-бот на основе ИИ часто выдает неправильную информацию, которая может навредить компании и привести к убыткам. Профильные специалисты уточнили, что есть еще одна важная причина. Банки ввели запрет на использование ChatGPT, потому что при его использовании возникают проблемы с соблюдением требований безопасности на корпоративной технике.
Некоторые представители банков объяснили медиа: от технологии никто не отказывается полностью, ее можно будет использовать в будущем. Но сперва чат-бот должен пройти стоящую проверку с оценкой эффективности и безопасности. И говорят, что сейчас будет странно оправдываться перед регулятором или проверкой фразой: «Эту операцию мне велела сделать машина».
Почему вообще пришлось банить ChatGPT? До этого часть специалистов использовала чат-бот, чтобы быстро собирать и анализировать данные. Инструмент, конечно, справлялся быстрее человека. Но потом выяснялось, что алгоритм давал неправильную информацию, а ее никто не перепроверял. Это, в свою очередь, может исказить представление сотрудника о том или ином вопросе в условиях постоянных изменений.