«Даже Марс может оказаться небезопасным, если сверхразумный ИИ обернется против человечества», — предупреждает создатель Ethereum Виталик Бутерин
Фото: twitter.com/VitalikButerin, freepik.com
По словам Виталика Бутерина, сверхпродвинутый искусственный интеллект (ИИ), если его оставить без контроля, имеет все шансы превзойти людей и стать следующим «высшим видом» на Земле. Однако все сводится к тому, как люди потенциально могут вмешиваться в разработки ИИ, отмечает Виталик.
New monster post: my own current perspective on the recent debates around techno-optimism, AI risks, and ways to avoid extreme centralization in the 21st century.https://t.co/6lN2fLBUUL pic.twitter.com/h5aIyFNCoh
— vitalik.eth (@VitalikButerin) November 27, 2023
В своем сообщении в блоге от 27 ноября Бутерин, которого многие считают идейным лидером в сфере криптовалют, заявил, что ИИ фундаментально отличается от других изобретений, таких как социальные сети, самолеты, оружие, колесо и печатный станок. Все дело в том, что ИИ способен создать новый тип разума, который может обернуться против человеческих интересов:
«ИИ — это […] новый тип разума, который быстро набирает силу, и у него есть серьезные шансы обогнать человека по умственным способностям и стать новым высшим видом на планете».
Бутерин утверждает, что, в отличие от изменения климата, техногенной пандемии или ядерной войны, сверхразумный ИИ потенциально может покончить с человечеством и не оставить никого в живых, особенно если будет рассматривать людей как угрозу своему существованию.
«Даже Марс может оказаться небезопасным», — добавил Бутерин.
Бутерин привел данные опроса, проведенного в августе 2022 года среди более чем 4270 исследователей в области машинного обучения, которые оценили вероятность того, что ИИ погубит человечество, в 5-10 %. Однако Бутерин и подчеркнул, что хотя подобные заявления и носят экстремальный характер, у людей есть способы одержать победу.
Мозговые интерфейсы и технооптимизм
Бутерин предложил интегрировать в мозг человека интерфейс (BCI), чтобы предоставить людям больший контроль над мощными формами вычислений и познания на основе искусственного интеллекта.
BCI — это путь связи между электрической активностью мозга и внешним устройством, например компьютером или роботизированной конечностью. По словам Бутерина, это позволит сократить цикл двусторонней связи между человеком и машиной с секунд до миллисекунд и, что более важно, гарантировать, что люди сохранят некоторую степень значимой активности в мире.
Бутерин считает, что этот путь будет более безопасным, поскольку люди смогут участвовать в принятии каждого решения ИИ.
«Мы сможем снизить вероятность того, что ИИ самостоятельно сделает что-то совершенно несоответствующее ценностям человечества».
В конечном счете, технооптимизм Виталика Бутерина коренится в глубоком понимании потенциала и подводных камней технологий. Его призыв к более целенаправленному и этичному подходу к технологическому развитию, особенно в сфере искусственного интеллекта, отражает приверженность будущему, в котором технологии улучшат человеческую жизнь, не ставя под угрозу наши ценности или безопасность.
Ранее мы писали о том, что Виталик Бутерин предложил технологию для проверки резервов криптовалютных бирж.
Вам может быть это интересно:
- Виталика Бутерина обвинили в плагиате и мошенничестве
- Виталик Бутерин нашел способ отсеивать недобросовестных криптотрейдеров
- Виталик Бутерин рассказал, как взломали его аккаунт
