Що сталося
Генеральний директор OpenAI Сем Альтман назвав два сценарії розвитку штучного інтелекту, яких, на його думку, людство має уникнути.
Деталі
12 вересня Амодеї опублікував есе We Must Pace the Frontier, у якому запропонував план із трьох пунктів для уповільнення розвитку ШІ. Він попередив про ризики, які швидке вдосконалення технології може створювати для суспільства.
«Я погоджуюся з Дario, що нам потрібно встановити темп розвитку передових технологій», — написав глава OpenAI у соцмережі X.
Альтман також закликав інші компанії розробляти власні підходи та спільні стандарти щодо контролю, моніторингу та безпеки ШІ.
Пізніше Альтман окремо описав власне бачення головних ризиків розвитку штучного інтелекту.
Контекст
Його заява пролунала після того, як глава Anthropic Дario Амодеї закликав уповільнити розвиток найпотужніших моделей штучного інтелекту та посилити контроль за технологією.
Що далі
За його словами, OpenAI вже впроваджує додаткові заходи безпеки. Зокрема, компанія заздалегідь формує спеціальні оцінки безпеки перед запуском навчання передових моделей із підкріпленням, якщо очікується суттєве зростання їхніх можливостей.
«Якщо надзвичайно потужний ШІ буде використаний однією людиною або компанією, щоб нав’язати всім іншим своє бачення світу, наслідки можуть бути надзвичайно антиутопічними», — написав він.