Что произошло
Демис Хассабис, сооснователь DeepMind, недавно поделился эссе в X, в котором обсуждает ближайшее приближение Искусственного Общего Интеллекта (AGI). Он описывает нашу текущую фазу как "предгорья сингулярности" и предполагает, что AGI может появиться всего через несколько лет, сравнивая его значение с основополагающими открытиями, такими как электричество или огонь.
Почему это важно
Хассабис предупреждает, что потенциальное влияние AGI может превзойти последствия Промышленной революции как по масштабу, так и по скорости. Это вызывает серьезные опасения относительно рисков, связанных с высокими технологиями, особенно в таких чувствительных областях, как кибербезопасность и биотехнологии. Его идеи подчеркивают необходимость создания рамок для безопасного управления разработкой и внедрением этих технологий.
Контекст
В контексте технологических достижений AGI представляет собой скачок за пределы традиционных инноваций, таких как интернет или смартфоны. Исторически трансформационные открытия требовали тщательного управления и регулирования, и появление AGI требует аналогичного предвидения. Идея создания стандартов безопасности не нова; она перекликается с практиками в других секторах, таких как финансы, где организации установили руководящие принципы для защиты общественных интересов.
Что это означает
Хассабис предлагает создать Орган по стандартам Frontier AI для надзора за оценкой передовых моделей ИИ, выступая за систему, в которой предварительное тестирование становится стандартной практикой. Этот орган обеспечит строгую проверку как открытых, так и закрытых моделей ИИ перед их развертыванием. Его призыв к международному сотрудничеству и ответственной реализации подчеркивает необходимость совместного подхода к решению проблем, связанных с передовыми технологиями ИИ. Последствия этой рамки могут определить будущее разработки AGI, обеспечивая его соответствие человеческим ценностям и стандартам безопасности.
