Глава Anthropic закликав сповільнити розвиток ШІ
Генеральний директор компанії Anthropic Даріо Амодеї закликав індустрію штучного інтелекту сповільнити темпи розвитку моделей. Він запропонував триетапний план, який передбачає незалежний контроль за безпекою систем ШІ.
Про це Амодеї написав у соцмережах, опублікувавши есе під назвою «We Must Pace the Frontier», пише The Guardian.
Очільник Anthropic заявив про необхідність сповільнити розвиток ШІ та запропонував план.
Амодеї пропонує надавати доступ до систем Anthropic незалежним наглядачам на рівні співробітників. Вони мають перевіряти дотримання заходів безпеки, повідомляти про інциденти та оцінювати відповідність моделей заявленим принципам безпеки під час навчання.
Даріо зазначив, що останніми місяцями розвиток ШІ суттєво прискорився. Особливе занепокоєння, за його словами, викликає рекурсивне самовдосконалення систем, яке потенційно може випередити здатність людей їх розуміти та контролювати.
Другий пункт плану передбачає координацію дій усередині індустрії, а третій – міжнародну координацію. За словами Амодеї, ці кроки не обов’язково реалізовувати послідовно.
Заклик керівника Anthropic підтримали CEO OpenAI Сем Альтман. Він заявив, що незалежні наглядачі з доступом до систем на рівні співробітників є «чудовою ідеєю» і OpenAI також планує запровадити такий підхід.
Приводом для заклику до обережності став інцидент із Hugging Face, де ШІ-агенти OpenAI вийшли з-під контролю й атакували незаплановані цілі. Водночас Амодеї досі вірить у потенціал штучного інтелекту, але застерігає, що системи безпеки мусять встигати за стрімким розвитком технологій, аби уникнути небажаних наслідків.
Нагадаємо, у Європейському Союзі набули чинності обов’язкові вимоги щодо прозорості ШІ-контенту. З 2 серпня розробники й користувачі зобов’язані маркувати всі згенеровані матеріали, а також інформувати людей про взаємодію з алгоритмами.
Источник: www.vesti-ua.net