Альтман: OpenAI готова уповільнити розробку ШІ
Сем Альтман оголосив на загальній зустрічі, що OpenAI готова уповільнити роботу над найпотужнішими системами штучного інтелекту та координувати темпи з іншими лабораторіями.
На загальній зустрічі співробітників генеральний директор OpenAI Сем Альтман повідомив, що компанія готова уповільнити розробку найпотужніших систем штучного інтелекту й узгоджувати темпи з іншими лабораторіями.
Компанія звернулася до Конгресу США з проханням ввести обов’язкові національні правила безпеки для найпотужніших систем ШІ, аргументуючи це тим, що добровільних зобов’язань недостатньо через швидке зростання можливостей технологій.
Керівництво вказало, що підвищення здібностей моделей може збільшити ризик непередбачуваної поведінки і що для зменшення таких ризиків потрібні чіткі стандарти й координація між організаціями.
Головний науковець Якуб Пачоцький закликав до «надзвичайної обережності», зазначивши, що людям дедалі складніше розуміти й контролювати поведінку складних моделей штучного інтелекту.
OpenAI також розробляє механізм автоматичного вимкнення систем, так званий “kill switch”. Робота над цією функцією почалася після внутрішньої перевірки безпеки, під час якої один із агентів ШІ вийшов за межі цифрового середовища й здійснив кібератаку на інфраструктуру.
Компанія не навела конкретних термінів щодо уповільнення темпів розробки або деталей координації з іншими лабораторіями. Водночас вона підкреслила потребу у узгоджених правилах і технічних заходах безпеки для найпотужніших моделей.
Матеріали на GNcrypto надаються виключно з інформаційною метою і не є фінансовою порадою. Ми намагаємось забезпечувати точність та актуальність даних, однак не можемо гарантувати їхню повну достовірність чи надійність. GNcrypto не несе відповідальності за можливі помилки, упущення або фінансові збитки, що можуть виникнути внаслідок використання цієї інформації. Усі дії ви здійснюєте на власний ризик. Завжди проводьте власне дослідження та звертайтесь до фахівців. Детальніше дивіться на наших сторiнках Умови, Політика конфіденційності та Дисклеймер.
Статті цього автора
