Вірккунен: правила ЄС здатні стримати ШІ-агентів

Технічна керівниця ЄС Хенна Вірккунен заявила, що законодавство Євросоюзу у сфері штучного інтелекту може впоратися з ризиками, пов’язаними з неконтрольованими ШІ-агентами. За її словами, європейські правила охоплюють увесь життєвий цикл потужних моделей.

«Безпека та захищеність дуже потужних моделей є надзвичайно актуальною темою на міжнародному рівні, і в Європі ми добре до цього підготовлені», — зазначила Вірккунен в інтерв’ю в п’ятницю.

Її заява пролунала після інцидентів у компаніях OpenAI та Anthropic. Вони посилили побоювання щодо можливого виходу ШІ-агентів з-під контролю людини. Такі системи можуть самостійно виконувати завдання та взаємодіяти з іншими програмами.

Закон ЄС про штучний інтелект класифікує технології за рівнем ризику та встановлює для розробників відповідні вимоги. Вірккунен відкинула критику про те, що ці правила застаріли.

«У нас діє Закон про ШІ, і він охоплює весь життєвий цикл цих моделей», — заявила вона. Регулятори також надають компаніям рекомендації щодо оцінювання моделей. Документ підготували з урахуванням висновків 60 експертів із ШІ.

Наприкінці серпня Європейська комісія запросила більш ніж у 30 неназваних компаній, що працюють у сфері штучного інтелекту, інформацію про заходи безпеки та захисту під час розроблення і використання моделей. Вірккунен повідомила, що оцінює отримані відповіді.

13 вересня генеральний директор Anthropic Дario Амодеї заявив, що темпи розвитку ШІ стали надто високими. За його словами, без належного контролю вони можуть випередити здатність людей розуміти такі системи та керувати ними.

Амодеї пов’язав прискорення розроблення ШІ зі зростанням здатності систем самостійно створювати наступне покоління штучного інтелекту. Цей процес називають рекурсивним самовдосконаленням.