Топменеджери залишають провідні компанії, що займаються розробкою ШІ. Вони стурбовані тим, що їхня діяльність може призвести до загибелі людства.
Як повідомляє видання Axios, за останній час з передових компаній, що працюють над нейромережами, пішли вже 10 співробітників. Це не звичайні менеджери, а люди з керівництва та провідні інженери. Причиною є страх перед розвитком технології, яка може призвести людство до катастрофи.
Ілон Маск, засновник Grok, на своїй сторінці в X оцінив p(doom) у 20%. P(doom) спочатку була жартом, але тепер стала серйозною метрикою, що вимірює ризик знищення людства від надрозумного ШІ. Генеральний директор Google Сундар Пічаї у подкасті у Лекса Фрідмана назвав аналогічний діапазон — від 15% до 25%.
Йдеться про AGI — сильний штучний інтелект, порівнюваний з людським, здатний до універсального навчання і вирішення завдань. Ніхто точно не знає, коли він з’явиться. Той же Пічаї вважає, що це станеться трохи пізніше, ніж через 5 років.
Для оптимістів, які не бачать загрози в ШІ, автори дослідження висловили свою думку.
Самі розробники ШІ оцінюють ймовірність знищення людства як 1 з 10, а можливо, навіть як 1 з 5.