Колишній голова безпеки Google: ШІ може шкодити дітям сильніше
Том Сігел приєднався до Common Sense Media як виконавчий директор Youth AI Safety Institute і закликав уповільнити розвиток ШІ через ризики для дітей.
Цього тижня Том Сігел, колишній віцепрезидент Google з питань довіри й безпеки, став виконавчим директором Youth AI Safety Institute при Common Sense Media. Він закликав уповільнити розгортання нових систем штучного інтелекту через потенційні ризики для дітей.
Сігел вказав, що вплив ШІ на молодих користувачів може перевищувати шкоду від соціальних мереж. До конкретних ризиків він відніс підвищення ймовірності суїцидальних думок, розвиток психозів та зниження здатності до критичного мислення через надмірне покладання на відповіді моделей.
На його думку, індустрія повторює помилки ранньої ери соцмереж, коли продукти запускали без достатніх обмежень і стандартів захисту дітей. Швидке розгортання потужних моделей відбувається без незалежного тестування і прозорих критеріїв безпеки, зазначив Сігел.
У рамках Youth AI Safety Institute він планує розробити незалежні стандарти і процедури тестування для сервісів ШІ, якими користуються діти. Сігел порівняв таке тестування з краш-тестами автомобілів як прикладом незалежної оцінки безпеки продукту перед широким використанням.
Він звернув увагу на практичні кроки для компаній, що створюють великі моделі. Сігел запропонував посилити механізми перевірки віку для обмеження доступу дітей до потенційно шкідливого контенту та функцій, назвавши серед адресатів пропозицій компанії Anthropic і OpenAI. Також він запропонував, щоб Google додала опцію повного відключення функцій AI Overviews та AI Mode у пошуку.
Сігел повідомив, що багато рекомендацій можна запровадити вже зараз без очікування нових законів або повного технічного доопрацювання моделей. Раніше він очолював відділ довіри та безпеки в Google; у новій ролі він зосередиться на розробці незалежних критеріїв і оцінці ризиків для молодої аудиторії.
Матеріали на GNcrypto надаються виключно з інформаційною метою і не є фінансовою порадою. Ми намагаємось забезпечувати точність та актуальність даних, однак не можемо гарантувати їхню повну достовірність чи надійність. GNcrypto не несе відповідальності за можливі помилки, упущення або фінансові збитки, що можуть виникнути внаслідок використання цієї інформації. Усі дії ви здійснюєте на власний ризик. Завжди проводьте власне дослідження та звертайтесь до фахівців. Детальніше дивіться на наших сторiнках Умови, Політика конфіденційності та Дисклеймер.
Статті цього автора
