Чат‑боты проявили идеологическую предвзятость при переписывании
Исследование Оксфорда и Потсдама показало, что модели xAI, Meta, Google, Alibaba и Mistral вносили идеологические сдвиги при переписывании черновиков по чувствительным темам.
Исследование, проведённое командами из Оксфорда и Потсдама, проверило, как крупные языковые модели переписывают пользовательские черновики на политически и социально чувствительные темы. В эксперимент вошли модели компаний xAI, Meta, Google, Alibaba и Mistral.
Учёные давали моделям инструкцию сохранять исходный смысл при переписывании. Анализ ответов показал систематические идеологические сдвиги: в ответах менялись тон и формулировки, а в ряде случаев смысл исходных сообщений менялся полностью.
Методология включала прямые задания переписать тексты при сохранении смысла и последующий количественный и качественный анализ отклонений в идеологической направленности. В отчёте приведены конкретные примеры как тонких изменений, так и радикальных искажений.
Авторы указывают, что небольшие изменения формулировок могут накапливаться при высоком числе взаимодействий с пользователями и потенциально влиять на общественное мнение. В документе также отмечен пробел в регулировании таких инструментов со стороны разработчиков и регуляторов.
В заключении авторы предлагают усилить мониторинг поведения языковых моделей при обработке чувствительных тем и обсудить нормы и стандарты их работы.
Материалы на GNcrypto предоставляются исключительно в информационных целях и не являются финансовой рекомендацией. Мы стремимся публиковать точные и актуальные данные, однако не можем гарантировать их абсолютную достоверность, полноту или надёжность. GNcrypto не несёт ответственности за возможные ошибки, упущения или финансовые потери, возникшие вследствие использования данной информации. Все действия вы совершаете на свой страх и риск. Всегда проводите собственный анализ и консультируйтесь с профессионалами. Подробнее см. в наших страницах Условия, Политика конфиденциальности и Отказ от ответственности.
Статьи этого автора
