Багато хто боїться, що розумні машини можуть “замінити” або зовсім знищити людство. Останніми роками цей страх посилюється на тлі стрімкого розвитку штучного інтелекту, який насправді не такий уже й розумний.
Поки одні експерти пророкують катастрофу, інші викривають ШІ у брехні, дурості та обмеженості. Фокус спробував розібратися, наскільки ж розумний ШІ зараз.
ШІ вміє розмовляти, але не думати
Наразі більшість людей асоціює ШІ з генеративними мовними моделями, такими як ChatGPT, Gemini, Claude або Grok. Однак останні дослідження показують, що мова — це не те саме, що інтелект.
Бенджамін Райлі, засновник компанії Cognitive Resonance, в есе для видання The Verge пише, що люди схильні асоціювати гарну мову з високим інтелектом завдяки книжкам, лекціям, публічним виступам. А згідно з сучасними нейробіологічними дослідженнями, людське мислення значною мірою незалежне від людської мови. На думку експерта, дуже мала ймовірність, що мовні моделі створять форму інтелекту, яка відповідатиме людському або перевершуватиме його.
Багато IT-компаній намагаються створити загальний штучний інтелект (artificial general intelligence), який дорівнює або перевершує рівень людини в різних завданнях. Передбачається, що він зможе розв’язати проблеми, які досі не під силу людям: від лікування раку до зміни клімату. Мрією про створення такої системи розробники виправдовують величезні витрати і катастрофічний вплив на навколишнє середовище. Наприклад, вони почали закуповувати так багато модулів оперативної пам’яті, що це може призвести до здорожчання та погіршення смартфонів.
Чому ШІ не такий уже й розумний?
У моделей штучного інтелекту є межа можливостей, що наочно показало дослідження професора інженерних інновацій в Університеті Південної Австралії Девіда Кроплі, опубліковане в журналі Journal of Creative Behavior. Він перевірив креативність ШІ за допомогою математичної формули і показав, що в певний момент моделі вже не можуть генерувати нові та унікальні результати, натомість видаючи безглуздий текст.
Дослідницька компанія Deepmind зі складу Alphabet дійшла висновку, що ШІ не вміє “думати” за рамками відомої інформації. Моделі хороші рівно настільки, наскільки хороші дані, за допомогою яких їх навчали. Якщо ж їм доводиться робити щось неординарне, нехай навіть дуже просте, то виникають збої.
Можна припустити, що ШІ не зможе знищити людство, поки люди самі не підкажуть йому робочий спосіб. І це має бути науково обґрунтований план, а не фантастика, як серія фільмів “Термінатор”.
Журналістка Tom’s Аманда Касвелл провела свій експеримент, щоб перевірити, наскільки добре “мислить” ШІ. Вона звернула увагу, що мовні моделі часто “вигадують” і пишуть неправду, якщо не знають правильних відповідей або не вистачає даних, не бажаючи визнавати свою необізнаність — це називають “галюцинаціями”. Найнебезпечніше, що користувачі можуть навіть не помітити помилку ШІ, повіривши на слово.
Таке вже відбувалося неодноразово. Наприклад, у США юристів оштрафували через помилки ШІ у 2023 році. Адвокати фірми Levidow, Levidow & Oberman PC використовували в судовому провадженні цитати та посилання, підготовлені нейромережею, які виявилися неправдивими.
Аманда Касвелл придумала ідіому, потім попросила ChatGPT, Gemini і Claude пояснити її значення. ChatGPT швидко представив фразу як невід’ємну частину сучасного інтернет-сленгу і навіть “придумав”, як вона виникла в соціальних мережах.
Несподівана небезпека ШІ для людей
Директор з освіти в компанії No More Marking Дейзі Хрістодулу вважає, що впровадження ШІ робить людство дурнішим. Якщо більшу частину 20-го століття результати тестів на IQ зростали, але з 1980-х років у підлітків бали почали знижуватися.
Дослідник Джеймс Флінн припустив, що причина в нових технологіях, які дають змогу людям менше думати: наприклад, не потрібно рахувати в умі, якщо в кожному телефоні є калькулятор, або запам’ятовувати дорогу, адже є навігатор.
Те саме стосується і систем штучного інтелекту, які обіцяють швидко знайти і надати потрібну інформацію. Не потрібно багато читати і запам’ятовувати, достатньо зарядити смартфон і підключитися до інтернету.
Як припускає Дейзі Хрістодулу, ШІ може зробити світ кращим, взявши на себе рутинну роботу і полегшивши життя людям у багатьох галузях. З іншого боку, люди не можуть розвивати складні навички, якщо не володіють простими, а мотивація тренуватися з базових речей, як-от арифметика або написання творів, зникає.
Таким чином люди можуть впевненіше поводитися з технологіями, але самі по собі стануть набагато дурнішими за попередні покоління.
Штучний інтелект буде кориснішим і ефективнішим, якщо підтримуватиме людей, а не замінюватиме їх, іноді сумніваючись і припускаючись помилок. Ідея в тому, щоб зробити ШІ людянішим і змусити людей вчитися, а не сліпо довіряти.
Президент Інституту досліджень машинного інтелекту Нейт Соарес вважає, що ШІ знищить людство з імовірністю 95%. Уже зараз люди не розуміють багато процесів, які впливають на ухвалення рішень комп’ютерами.
Тим часом, в Україні впроваджують ШІ в судову систему. Він може кардинально змінити роботу юристів, хоча поки невідомо, як саме вплине на судочинство.
