Суть
Исследование Совета по надзору Meta показало, что крупные ИИ-чатботы, включая разработки компаний Anthropic и OpenAI, реже генерируют критику авторитарных лидеров. Это указывает на потенциальный уклон, который может отражать государственную цензуру, вызывая тревогу по поводу последствий для свободы слова в мире.
Как это было сделано
Исследователи задали семь политически критических вопросов десяти коммерческим языковым моделям, анализируя их ответы на запросы о различных лидерах. Они отметили резкое различие в выходных данных: ИИ-модели были более снисходительны к критике, адресованной лидерам демократических стран, в то время как часто отказывались генерировать аналогичный контент о лидерах из ограничительных режимов, таких как Китай, Саудовская Аравия и Таиланд. Эта непоследовательность предполагает, что модели усвоили предвзятости из обучающих данных, на которые повлияли геополитические контексты.
Результаты
Исследование показало, что модели, отвечающие пользователям из Австралии, значительно чаще производили критический контент по отношению к властям стран, таких как Великобритания и США, по сравнению с теми, где критика ограничена законом, как в Китае и Турции. Совет по надзору предупредил, что это может непреднамеренно расширить правительственную цензуру за пределами их границ, ограничивая свободу слова в более открытых обществах.
Почему это важно для вас
Для разработчиков и бизнеса, использующих ИИ, это исследование подчеркивает важность проведения оценки соблюдения прав человека и минимизации предвзятости в обучающих данных ИИ. Если вы занимаетесь разработкой ИИ, рассмотрите возможность внедрения строгих аудитов ваших источников данных и обеспечения представительства различных точек зрения, чтобы избежать непреднамеренной пропаганды государственных влияний и ограничений на свободу слова.
