Штучний інтелект та глобальні ризики: вчені класифікували 95 сценаріїв потенційної катастрофи
Дослідники проаналізували тисячі наукових робіт і виокремили 95 можливих шляхів, через які розвиток штучного інтелекту може призвести до екзистенційної кризи або втрати контролю з боку людства.
🧠AI-аналітикаФото: RBC-Ukraine
Головне коротко
- Вчені систематизували 95 сценаріїв ризиків від штучного інтелекту.
- Дослідження базується на аналізі 58 наукових робіт із понад 3000 перевірених документів.
- Сценарії поділено на три ключові напрямки, включно з втратою контролю та посиленням техногенних загроз.
Систематизація глобальних загроз
Група дослідників здійснила масштабний огляд наукової літератури, присвяченої безпеці штучного інтелекту. Проаналізувавши понад три тисячі документів, фахівці відібрали 58 праць, у яких детально описуються потенційні шляхи до глобальної катастрофи, цивілізаційного колапсу чи встановлення незворотних антиутопічних режимів. У результаті було сформовано перелік із 95 сценаріїв.
Автори дослідження наголошують, що сама лише кількість варіантів у певній категорії не свідчить про ймовірність їх реалізації. Отриманий перелік не є остаточним і з часом доповнюватиметься новими даними. Для кожної групи ризиків експерти детально розписали послідовність кроків, що дозволяє заздалегідь виявляти тривожні тенденції.
Основні напрямки ризиків
Усі зібрані сценарії вчені поділили на три великі категорії. Найбільшу групу становлять ситуації, коли штучний інтелект поступово чи різко перебирає контроль над майбутнім людства — сюди увійшло 60 сценаріїв. Це стосується як автономних дій неконтрольованих систем, так і добровільної передачі владних повноважень людям.
Інші категорії охоплюють ризики посилення тотаритаризму та економічної нерівності через витіснення працівників, а також розширення руйнівного потенціалу людства завдяки небезпечним технологіям та автоматизованим війнам. На думку Пітера Слэттера з MIT FutureTech, такий детальний аналіз допоможе розробникам і регуляторам вчасно реагувати на загрози.
Джерело RBC-Ukraine — rbc.ua/ukr/news/95-stsenariyiv-katastrofi-cherez-shi-vcheni-1795090… ↗
Читайте далі
Енергосистема під тиском: у понеділок запроваджують черги відключень світла
Державна компанія «Укренерго» анонсувала застосування планових обмежень електропостачання для побутових та промислових споживачів у понеділок, 23 листопада.
Німеччина тестує українську бойову систему Delta для інтеграції у Бундесвер
Німецька армія проводить випробування української системи управління боєм Delta, розробленої для протидії російським військам, з метою її можливої інтеграції.
🎭Культура і спортЛялькар із Житомира Сергій Соловйов готує різдвяний вертеп зі спецефектами
Відомий житомирський лялькар Сергій Соловйов працює над створення масштабного різдвяного вертепу з унікальним освітленням та триярусними декораціями.
Вплив гіперопіки: як надмірний контроль у дитинстві змінює доросле життя
Психологи дослідили, до яких наслідків призводить так зване «вертолітне батьківство» та чому надмірна увага батьків заважає дітям у дорослому віці.
🛡️БезпекаРозвідка США виправдовує заяви Трампа щодо Путіна після зустрічі ядерних держав
Директор Національної розвідки США став на захист президента Дональда Трампа, котрий назвав російського очільника своїм товаришем.
🛡️БезпекаНаслідки ворожої атаки на Київщину: троє загиблих у Вишневому та пошукові роботи в Димері
Унаслідок російського удару по магазину у Вишневому на Київщині загинуло троє людей, ще кілька десятків зазнали поранень. Рятувальні операції в регіоні тривають у складни…