Трамповские указы по искусственному интеллекту: борьба с идеологической предвзятостью вызывает споры среди экспертов

Президент Соединенных Штатов Дональд Трамп подписал три указа, касающихся искусственного интеллекта. Эти документы содержат рекомендации и подходы, направленные на создание более инклюзивной среды для развития этой технологии.

Первый указ, названный ПРЕКРАЩЕНИЕ WOKE AI В ФЕДЕРАЛЬНОМ GOVERNMENT, утверждает, что федеральные органы власти должны отказаться от ИИ решений, которые “приносят жертвы правде и точности ради идеологических целей”.

В указе говорится, что «LLM должны служить нейтральными и беспристрастными инструментами, не искажающими информацию в интересах идеологических догм, таких как DEI».

Разработчикам запрещается намеренно внедрять идеологические оценки в ответы ИИ, за исключением случаев, когда это предусмотрено запросом пользователя.

«Мы окончательно избавляемся от “woke”. Я подписываю указ, запрещающий федеральному правительству приобретать ИИ-технологии с партийными или идеологическими влияниями, такими как критическая расовая теория — это безумие. С этого момента правительство США будет использовать только такой ИИ, который придерживается принципов истины, справедливости и строгой беспристрастности», — заявил Трамп.

Отмечается, что искусственный интеллект все более активно используется в повседневной жизни американцев и играет ключевую роль в доступе к информации. В этом контексте особое внимание уделяется достоверности формируемых ИИ выводов.

Среди других инициатив: старший преподаватель прикладной лингвистики в Open University Филип Сирджент подчеркнул, что настоящий нейтралитет невозможен.

«Один из основных постулатов социолингвистики гласит, что язык всегда имеет окраску. Поэтому стремление к абсолютной объективности является иллюзией», — отметил он.

Идеология администрации Трампа не всегда совпадает с мнениями и ценностями всех американцев. Президент многократно пытался сократить финансирование инициатив, связанных с климатом, образованием и социальными программами, часто характеризуя их как «woke».

«Все, что [администрация Трампа] считает неприемлемым, быстро попадает в категорию “woke”», — заявила Румман Чоудхури, специалист по данным и глава некоммерческой организации Humane Intelligence.

Под стремлением к «истине» подразумевается, что LLM-модели «придают приоритет исторической точности и научному подходу», тогда как «идеологическая нейтральность» означает, что модели должны оставаться «беспартийными инструментами, не искажающими информацию под влиянием идеологических убеждений, таких как DEI».

Илон Маск видит в Grok альтернативу «woke»-подходу — модель с меньшей предвзятостью и сосредоточенная на истине. В системных подсказках модели рекомендуется избегать ссылок на традиционные СМИ и официальные источники, а также рассматривать противоположные мнения, в том числе те, которые могут считаться политически некорректными, учитывая при этом точку зрения самого Маска по противоречивым вопросам.

Недавно Grok оказался в центре скандалов из-за антисемитских и других провокационных высказываний.

«Ясно, что указ направлен на подавление определенных взглядов, учитывая, что [правительство] недавно подписало контракт с Grok, который также известен как “MechaHitler”», — отметил профессор права в Стэнфордском университете Марк Лемли.

Совместно с финансированием от Министерства обороны xAI также сообщила, что продукт «Grok for Government» был включен в реестр Управления общих служб. Это означает, что федеральные учреждения и агентства теперь могут приобретать товары xAI.

Поднимается вопрос: будут ли они запрещать Grok — ИИ, с которым только что подписали крупный контракт — за то, что он разрабатывался для выдачи политически окрашенных ответов? Если нет, это может быть явной попыткой подавить определенную точку зрения», — отметила Лемли.

Главное беспокойство Чоудхури связано с тем, что в результате указа компании могут целенаправленно менять тренировочные данные, чтобы соответствовать требованиям администрации. Она напомнила о заявлениях Маска, сделанных незадолго до выхода Grok 4, в которых он утверждал, что xAI «перепишет весь массив человеческих знаний, добавляя недостающую информацию и исправляя ошибки».

Эксперты отмечают, что единой объективной истины не существует, и добиться полностью беспристрастных или нейтральных результатов невозможно, особенно в современном мире, где даже факты становятся предметом политических споров.

«Если ИИ утверждает, что климатическая наука верна — это считается левым уклоном? Некоторые говорят, что нужно представлять обе стороны аргумента, даже если одна из сторон не имеет научной обоснованности», — задает вопрос Сирджент.

Эти меры являются частью инициативы администрации, известной как «Победа в гонке ИИ: План действий США по ИИ» (Winning the AI Race: America’s AI Action Plan). План включает 90 федеральных политик, сгруппированных по трем направлениям: ускорение инноваций, создание инфраструктуры и международная дипломатия в сфере безопасности.

«Сейчас Америка занимает лидирующие позиции в строительстве дата-центров, производительности аппаратного обеспечения и разработке ИИ-моделей. Крайне важно, чтобы США использовали это преимущество для формирование устойчивого глобального альянса, не позволяя противникам извлекать выгоду из наших новшеств и инвестиций», — говорится в документе.

Он также подчеркивает необходимость ужесточения контроля за экспортом ИИ-чипов и имеет два политических предложения:

План был разработан командой администрации по технологиям и ИИ, состоящей из представителей Кремниевой долины, включая директора Управления по науке и технологиям Майкла Крациоса, куратора по ИИ и криптовалюте Дэвида Сакса и помощника президента по национальной безопасности Марко Рубио. Более 10 000 заинтересованных сторон выразили свои мнения, которые были учтены при разработке документа.

Основные направления плана:

Напомним, что в июле администрация Трампа пересмотрела свою позицию относительно импорта ИИ-чипов в Китай, разрешив компании Nvidia продавать процессоры, поскольку она «не передает оптимальные технологии».