OpenAI заявила про зниження політичної упередженості на 30%
Дослідники OpenAI опублікували дослідження, яке показує, що її нові моделі — GPT-5 Instant і GPT-5 Thinking — демонструють на 30% меншу політичну упередженість порівняно з попередніми версіями, зокрема GPT-4o та o3. Компанія створила систему оцінки нейтральності моделей.
Роботу провів підрозділ Model Behavior, який очолює Джоан Джанг. Він займається розробкою методів вимірювання та зменшення політичної упередженісті у великих мовних моделях. Команда протестувала моделі на 500 політично забарвлених запитах — від нейтральних до емоційних — щоб визначити, як ChatGPT реагує на різні формулювання.
За результатами тестів, моделі GPT-5 частіше формулюють збалансовані відповіді, уникають емоційних суджень і демонструють меншу схильність до певної ідеології. Дослідниця Наталі Штаудахер назвала це «наймасштабнішим кроком OpenAI у напрямку вимірюваної нейтральності».
У звіті зазначається, що навіть під час стрес-тестів, коли модель стикалася з провокаційними питаннями, рівень політичного ухилу залишався «низьким і рідкісним». Штаудахер підкреслила: «Мільйони людей використовують ChatGPT, щоб зрозуміти світ. Визначаючи, що таке упередженість, ми створюємо прозорі стандарти й підзвітність».
Дослідження вийшло невдовзі після щорічної конференції OpenAI DevDay, де компанія представила інструменти для створення застосунків на базі ChatGPT. Якщо DevDay показав функціональні можливості моделі, то нове дослідження сфокусувалося на її поведінковій нейтральності.
Експерти зазначають, що OpenAI прагне зміцнити довіру до своїх систем після критики через ідеологічну упередженість і вплив на громадську думку. Нова методика вимірювання ухилу може стати галузевим стандартом для компаній, які розробляють генеративний штучний інтелект.
На початку цього тижня a16z Podcast опублікував інтерв’ю із Семом Альтманом, у якому він розповів про плани OpenAI щодо створення майбутніх інтерфейсів, моделей монетизації та довгострокового шляху до штучного загального інтелекту (AGI).
