Людство може увійти в один із найнебезпечніших періодів своєї історії. Нобелівський лауреат з фізики Девід Гросс вважає, що поєднання ядерної загрози, кліматичних змін і стрімкого розвитку військового штучного інтелекту різко підвищує ризик глобальної катастрофи
Фото: unsplash.com, freepik.com
Гросс, який отримав Нобелівську премію з фізики у 2004 році, спробував оцінити глобальні загрози за допомогою кількісного підходу, характерного для теоретичної фізики.
За його розрахунками, щорічний ризик масштабного ядерного конфлікту нині може становити близько 2%. Якщо такий рівень небезпеки збережеться протягом десятиліть, імовірність безпечного проходження людством наступних 50 років суттєво зменшується.
«Імовірність того, що ви проживете ще 50 років, дуже мала», — заявив учений.
Однією з головних причин він називає послаблення міжнародної системи контролю над ядерною зброєю. Частина договорів про стратегічні озброєння втратила чинність або опинилася під питанням, тоді як кількість держав із ядерним арсеналом зросла.
На думку фізика, через це нинішня ситуація може бути навіть менш передбачуваною, ніж у деякі періоди Холодної війни.
ШІ може зробити військові рішення ще небезпечнішими
Окремою загрозою Гросс вважає використання штучного інтелекту в оборонних системах.
Сучасні військові технології дедалі більше залежать від швидкості реакції. У кризовій ситуації на аналіз інформації та відповідь можуть залишатися буквально секунди, тому частину рішень потенційно можуть передавати автоматизованим системам.
Читайте також: Чи чекати магнітних бур та сонячних спалахів на цих вихідних
Саме тут, на думку вченого, виникає особливо небезпечний сценарій.
ШІ здатний працювати швидше за людину, однак його рішення не завжди передбачувані. Алгоритми можуть помилятися, неправильно інтерпретувати дані або генерувати некоректні висновки.
«Якщо ви користуєтеся штучним інтелектом, то знаєте, що він іноді галюцинує», — зазначив Гросс.
У цивільних сервісах така помилка може означати неправильну відповідь або неточний текст. У системах, пов’язаних із ядерним стримуванням чи військовим управлінням, ціна збою може бути незрівнянно вищою.
До цього Гросс додає ще один глобальний фактор — кліматичну кризу, яка здатна посилювати політичну нестабільність, боротьбу за ресурси та міжнародні конфлікти.
Попри похмурі оцінки, фізик наголошує: його розрахунки не є прогнозом неминучого кінця людства. Йдеться радше про попередження, що ризики накопичуються швидше, ніж світ встигає створювати механізми контролю.
Науковець закликає держави відновлювати міжнародний діалог щодо ядерної безпеки та встановлювати чіткі правила використання ШІ у військовій сфері ще до того, як критично важливі рішення почнуть масово передавати алгоритмам.
Редакція PSM звертає увагу, що оцінки Девіда Гросса є сценарним аналізом ризиків, а не точним прогнозом майбутнього. Такі розрахунки значною мірою залежать від вихідних припущень і можуть змінюватися разом із геополітичною та технологічною ситуацією.
Ознайомтеся з іншими популярними матеріалами:
Науковці створили батарею, яка працює в організмі та поступово розкладається
Люди вперше отримали радіосигнал із далекої планети
Учені оцінили розвиток життя на 29 екзопланетах
Джерело: 24 Канал.
Telegram 
Viber 
