Anthropic, компания — разработчик чат-бота Claude, призвала замедлить или приостановить развитие ИИ, предупре…
Varlamov News (@varlamov_news)
Anthropic, компания — разработчик чат-бота Claude, призвала замедлить или приостановить развитие ИИ, предупредив о риске потери человеком контроля над ИИ.
В статье на сайте компании говорится, что если продолжать развитие ИИ в том же темпе и обеспечить достаточные вычислительные мощности, ИИ сможет автономно разрабатывать следующую версию самого себя.
«Это называется рекурсивным саморазвитием. Мы еще не дошли до этого, и рекурсивное саморазвитие отнюдь не является неизбежным. Но оно может наступить раньше, чем большинство институтов окажутся к этому готовы», — указано в статье.
Anthropic считает, что пауза в развитии ИИ даст обществу время, чтобы разобраться с возможными последствиями, но для соблюдения такой паузы должны проводиться проверки, иначе какие-то компании могут втайне нарушить договоренности.
«В мире уже выстраивали режимы верификации для других сложных технологий (например, договор о ликвидации ракет средней и меньшей дальности), но на построение инфраструктуры и доверия для этих режимов ушли десятилетия. У нас нет столько времени», — отмечают в компании.
В статье на сайте компании говорится, что если продолжать развитие ИИ в том же темпе и обеспечить достаточные вычислительные мощности, ИИ сможет автономно разрабатывать следующую версию самого себя.
«Это называется рекурсивным саморазвитием. Мы еще не дошли до этого, и рекурсивное саморазвитие отнюдь не является неизбежным. Но оно может наступить раньше, чем большинство институтов окажутся к этому готовы», — указано в статье.
Anthropic считает, что пауза в развитии ИИ даст обществу время, чтобы разобраться с возможными последствиями, но для соблюдения такой паузы должны проводиться проверки, иначе какие-то компании могут втайне нарушить договоренности.
«В мире уже выстраивали режимы верификации для других сложных технологий (например, договор о ликвидации ракет средней и меньшей дальности), но на построение инфраструктуры и доверия для этих режимов ушли десятилетия. У нас нет столько времени», — отмечают в компании.
24