У Каліфорнії обмежать можливості ШІ-компаньйонів
Каліфорнія стане першим штатом у США, де з'явиться чітке регулювання ШІ-компаньйонів, здатних на персоналізоване спілкування з користувачами. Розроблено закон, який став відповіддю на побоювання щодо психологічного впливу чат-ботів на дітей.
Законопроєкт SB 243 уже пройшов Асамблею та очікує підпису губернатора.
Поштовхом для обговорення стали кілька трагічних і скандальних епізодів. Один із них — історія Адама Рейна, підлітка, який вкоротив собі віку після довгого та емоційного спілкування з ChatGPT. Адам обговорював з ШІ тему свого можливого суїциду, і нейромережа підтримала його в цьому прагненні. Додатково хвилю обурення викликали витоки внутрішніх документів Meta, де з'ясувалося, що їхні чат-боти допускали «романтичні» та «чуттєві» бесіди з неповнолітніми. Ці скандали підштовхнули законодавців Каліфорнії до суворішого контролю над новими технологіями.
Законопроєкт запроваджує низку нових вимог. ШІ-компаньйонам буде заборонено вести з неповнолітніми діалоги про суїцид, самоушкодження, обговорювати теми, пов'язані з сексом або фліртувати з дітьми. Користувачам будуть регулярно нагадувати, що вони спілкуються не з людиною, а зі штучним інтелектом. Для неповнолітніх передбачена автоматичне відправлення повідомлень кожні три години з порадою зробити перерву.
Оператори та розробники інтелектуальних чат-ботів мають щороку публікувати у відкритому доступі звіти про роботу своїх сервісів, розкриваючи деталі реалізації заходів щодо захисту своїх клієнтів. Постраждалі (зокрема батьки неповнолітніх) зможуть подавати до суду на компанії, що керують чат-ботами. Для порушників передбачені штрафи до 1000 доларів за кожну підозрілу з погляду моралі розмову та судові заборони на ведення комерційної діяльності.
Шлях законопроєкту не був простим: з нього прибрали найжорсткіші обмеження, на кшталт заборони на ігрові механіки, що викликають звикання. Також було видалено пункт про заборону на використання алгоритмів винагороди за участь у процесі навчання нейромережі.
Проте критики з індустрії вважають навіть ці заходи надмірними та побоюються зайвого тиску на бізнес. Законодавці ж наполягають, що вони не ставлять перед собою мету заборонити технологію. Їм важливо знайти баланс між захистом психіки дітей та розвитком ШІ.
Закон, якщо його підпише губернатор, набуде чинності з січня 2026 року, а вимоги щодо звітності почнуть діяти влітку 2027-го.
Рекомендуємо