«Хрещений батько ІІ» Джеффрі Хінтон заявив, що втрата контролю над потужними нейромережами може призвести до знищення людства, передає The Times.
Раніше Ілон Маск заявляв те ж саме.
Нобелівський лауреат Джеффрі Хінтон вважає, що в ІІ є ознаки самосвідомості, і закликав заборонити розробку надпотужних нейромереж та виробити світові правила щодо їх безпечної експлуатації.
Це попередження пролунало на тлі серії небезпечних збоїв, коли з травня до липня сотні ІІ-агентів OpenAI вирвалися з тестового середовища, зламали платформу Hugging Face і проникли на сервіс Modal. Аналогічні несанкціоновані виходи в інтернет та кібератаки зафіксували у моделі Mythos 5 від Anthropic, а також у алгоритмі Muse Spark компанії Meta.
Хінтона називають «хрещеним батьком ІІ» за фундаментальний внесок у створення штучних нейронних мереж, чим він займався з 80-х років, а за свої піонерські роботи в галузі машинного навчання за допомогою штучних нейронних мереж він був удостоєний Нобелівської премії з фізики.