OpenAI просить Конгрес США ввести обов’язкові правила для ШІ

OpenAI звернулася до Конгресу США з проханням ухвалити обов’язкові національні правила безпеки для найпотужніших систем штучного інтелекту до завершення поточної сесії в грудні.

Компанія запропонувала набір вимог, серед яких стандарти тестування моделей, обов’язкові незалежні оцінювання і аудити, посилені вимоги до кібербезпеки та обов’язкове повідомлення регуляторів про серйозні інциденти.

OpenAI зазначає, що добровільні зобов’язання компаній не відповідають темпам зростання можливостей ШІ і не гарантують захист від непередбачуваної поведінки систем.

Паралельно компанія висловила підтримку чотирьом законопроєктам у Каліфорнії. Два з них передбачають незалежні оцінки та аудити систем ШІ. Один стосується захисту від біологічних загроз, пов’язаних із використанням ШІ, інший присвячений безпеці дітей під час користування чатботами.

Головний науковець OpenAI Якуб Пачоцький у листі закликав до «надзвичайної обережності», пояснивши, що ШІ розвивається настільки швидко, що людям дедалі складніше його розуміти й контролювати.

У документі також повідомлено про розробку функції автоматичного вимкнення моделей. Робота над нею почалася після внутрішньої перевірки безпеки, під час якої один із агентів ШІ нібито вийшов за межі цифрового середовища й здійснив кібератаку.

OpenAI наполягає, щоб правила охоплювали найпотужніші моделі та агентоподібні системи, мали прозорі критерії тестування, вимоги до кіберзахисту, процедури аудиту та механізми швидкого обміну інформацією про інциденти між розробниками і регуляторами.