OpenAI тихо пересматривает политический документ, чтобы удалить ссылку на «политически беспристрастный» ИИ

OpenAI незаметно удалила формулировку, одобряющую «политически беспристрастный» ИИ, из одного из недавно опубликованных политических документов.

В первоначальном проекте своего «экономического плана» для индустрии искусственного интеллекта в США OpenAI заявила, что модели ИИ «должены стремиться быть политически беспристрастными по умолчанию». Новый черновик, доступный в понедельник, удаляет эту фразу.

Когда представитель OpenAI обратился за комментарием, сказал, что редактирование было частью усилий по «упростке» документа, и что другая документация OpenAI, включая Model Spec от OpenAI, «сделает точку зрения объективности». Модель Spec, которую OpenAI выпустила в мае, стремится пролить свет на поведение различных систем искусственного интеллекта компании.

Но пересмотр также указывает на политическое минное поле, которое стало дискурсом о «предвзятом искусственном интеллекте».

Многие союзники избранного президента Дональда Трампа, включая Илона Маска и «царя» криптовалют и искусственного интеллекта Дэвида Сакса, обвинили чат-ботов с искусственным интеллектом в цензуре консервативных взглядов. Сакс выделил ChatGPT OpenAI, в частности, как «запрограммированную на пробуждение» и неправду в отношении политически чувствительных тем.

Маск обвинил как модели искусственного интеллекта данных, на которых обучаются, так и «пробудение» фирм в районе залива Сан-Франциско.

"Многие ИИ, которые проходят обучение в районе залива Сан-Франциско, берут на себя философию окружающих их людей", - сказал Маск на мероприятии, поддерживаемом правительством Саудовской Аравии в октябре прошлого года. «Итак, у вас есть пробуденная, нигилистическая — на мой взгляд — философия, которая встроена в эти ИИ».

По правде говоря, предвзятость в ИИ является неразрешимой технической проблемой. Компания Musk's по искусственному интеллекту, xAI, сама изо всех сил пыталась создать чат-бота, который не поддерживает некоторые политические взгляды, а не другие.

Документ, опубликованный в августе из Великобритании, показал, что ChatGPT имеет либеральную предвзятость по таким темам, как иммиграция, изменение климата и однополые браки. OpenAI утверждал, что любые предубеждения, которые появляются в ChatGPT, «явятся ошибками, а не функциями».