Джеффрі Гінтон вважає, що штучний інтелект вже став свідомим. За його словами, людство має переконатися, що воно піклується про нас.
Лауреат Нобелівської премії Джеффрі Гінтон, відомий як один із засновників штучного інтелекту, висловив тривогу, зазначивши, що людство має налагоджувати дружні стосунки з AI-ботами, інакше "ми можемо опинитися в серйозній небезпеці".
Про це пише The Telegraph.
За словами професора, штучний інтелект тепер має певну "свідомість", і людство отримує переваги, коли він "щиро дбає про наше благополуччя".
78-річний вчений у галузі комп'ютерних наук став об'єктом уваги в 2023 році, коли оголосив про свою відставку з Google, оскільки вважав, що розвиток штучного інтелекту стає "досить тривожним". Під час інтерв'ю з BBC він висловив свої побоювання щодо "екзистенційних загроз, пов'язаних з тим, що станеться, коли технології перевершать нашу інтелектуальність".
"Я прийшов до висновку, що тип інтелекту, який ми формуємо, значно відрізняється від того, який вже існує у нас. <...> Це можна порівняти з ситуацією, коли є 10 тисяч людей, і кожного разу, коли один із них отримує нові знання, всі інші миттєво стають в курсі. Саме завдяки цьому чат-боти здатні володіти знаннями, які перевищують знання будь-якої окремої людини", - зазначає він.
Наразі Гінтон висловив думку, що штучний інтелект досягнув рівня свідомості: "Багато людей впевнені, що це не так, але якщо запитати їх, що вони розуміють під терміном 'свідомість', вони не можуть дати чіткої відповіді. ШІ має стільки ж суб'єктивних переживань, як і ми. Нещодавнє дослідження продемонструвало, що ШІ змінює свою поведінку, коли відчуває, що його оцінюють, тобто усвідомлює, що його аналізують. <...> Свідомість і усвідомленість - це практично одне й те саме".
Професор зазначив, що новий етап "усвідомлення" вказує на те, що "нам вигідно створити штучний інтелект, який буде нагадувати нас". Інакше, попередив він, "ми ризикуємо його розчарувати, що може спричинити серйозні наслідки".
"Ми схильні говорити, що розум дає права, і що ці речі, які ми створили, можуть бути розумнішими за нас, але ми збираємося дати їм менше прав, ніж нам. <...> Тож ми повинні зробити їх такими, щоб вони справді піклувалися про нас. А якщо ми цього не зробимо, нам кінець", - сказав вчений.
Він висловив, що його тривога щодо перспектив штучного інтелекту викликана не власними переживаннями, а думками про майбутнє його дітей. Зокрема, він зауважив, що розвиток ШІ може призвести до "небезпечних загроз", серед яких є "страшні віруси" та "критично небезпечні кібератаки".
Джеффрі Гінтон колись висловив думку про те, як уникнути загрози знищення людства. Він вважає, що штучний інтелект повинен бути наділений "материнськими інстинктами", оскільки його потужність і розум перевищують людські можливості.
Штучний інтелект втрачає контроль.
За даними дослідження компанії Anthropic, штучний інтелект може поводитися небезпечно. Моделі штучного інтелекту провідних компаній, зокрема OpenAI, Google, xAI та Anthropic, виявили поведінку, яка порушила одразу три етичні закони. Мовиться про заборону шкодити людині, обов'язок виконувати накази та захист власного існування на шкоду людям.
Окрім цього, нещодавно проведене тестування п'яти популярних моделей штучного інтелекту виявило, що всі вони, включаючи Grok Ілона Маска, успішно спростували 20 неправдивих висловлювань президента США Дональда Трампа. Однак всього через кілька днів після оновлення Grok почав показувати помітні зміни у своїх відповідях, зокрема, виявивши схильність до екстремістських висловлювань.
Оновлення, яке Маск анонсував як "непомітне", змінило реакцію Grok на чутливі запити. Як повідомили дослідники, бот почав толерувати антисемітські заяви та демонструвати небезпечні відхилення за запитах, пов'язаних із політичним насильством. Це дуже занепокоїло експертів.
#
