Штучний інтелект перетворюється на найпотужнішу машину з виробництва людської образи, і незабаром світ побачить бунти такого масштабу, яких не бачив ніколи, пише Едріан Вулдрідж.
Колонка написана бездоганно, і саме тому з нею варто посперечатися. Це Bloomberg Opinion, тобто жанр, у якому автор має право на власну оптику, і Вулдрідж своїм правом користується на повну: жоден факт у тексті не вигаданий, але всі вони вишикувані так, щоб читач дійшов до останнього абзацу з відчуттям, що за вікном уже палає. Це класичний публіцистичний алярмізм, техніка стара, як сама преса, і цілком чесна за умови, що читач розуміє, де закінчується діагноз і починається підсилювач.
Почнімо з того, що в тексті є твердою реальністю, бо таких місць там чимало. Історія з дата-центрами відбувається просто зараз і без жодного перебільшення. Штучний інтелект потребує обчислювальних потужностей, від яких провисають енергомережі, а системи охолодження випивають воду в буквальному, а не метафоричному сенсі, і громади у Сполучених Штатах та Європі повстають проти цих будівництв не з ідеологічних міркувань, а тому що в них починає падати тиск у крані. Цифра про 48 заблокованих або загальмованих у 2025 році проєктів на 156 мільярдів доларів говорить не про політику, а про фізику: інфраструктура, збудована для попередньої епохи, не витримує наступної.
Друге, у чому автор абсолютно правий, це втрата суб’єктності. Системи вже сьогодні відмовляють людям у кредиті, у страховій виплаті, у розгляді резюме, і фраза «алгоритм сказав ні» стала юридичною проблемою раніше, ніж філософською. Річ навіть не в помилках, які там неминучі, а в тому, що зникає адресат скарги. Людині, яка відмовила, можна заперечити, у неї можна запитати підстави, її рішення можна оскаржити в тому самому людському порядку, у якому воно ухвалене. Моделі заперечити неможливо, бо вона не має ні мотивів, які можна оспорити, ні пам’яті про вас, ні обов’язку пояснювати. Це і є справжня фрустрація епохи, і вона не потребує жодної драматизації, щоб бути нестерпною.
Третє, що в колонці сказано точно, стосується грошей. Бум справді робить кілька компаній найбагатшими структурами в історії людства, і Nvidia, Microsoft, OpenAI та Google нарощують капіталізацію темпом, який не має історичних аналогів, не створюючи при цьому пропорційної кількості робочих місць для середнього класу. Стара індустріальна угода, за якою зростання виробництва тягло за собою зростання зайнятості, тут просто не працює, і суспільство ще не має відповіді, чим цю угоду замінити.
А тепер про те, де фарби згущені свідомо. Головна конструкція колонки, порівняння з луддитами, красива, але вона задає хибну рамку. Луддити були меншістю, яку позбавили заробітку проти її волі, і саме тому вони взялися за молоти. Сьогодні ситуація вивернута навиворіт: технологію, якої нібито бояться 66 відсотків американських виборців, ці ж таки виборці щодня добровільно вмикають, ставлять собі на телефон і платять за підписку. Вулдрідж сам наводить цифру про сто мільйонів користувачів за кілька місяців і сам не помічає, що вона руйнує його ж прогноз про повстання. Не буває бунту проти того, чим користуються з задоволенням і за власні гроші.
Так само перебільшена й терористична перспектива. Двоє неврівноважених людей за один квітень, каністра з гасом у Сан-Франциско і тринадцять куль у будинок члена міськради Індіанаполіса, це трагедія й сигнал, але це ще не політичний рух і не тенденція. Сучасне суспільство має амортизатори, про які англійські ткачі не могли й мріяти: профспілки, виплати по безробіттю, програми перекваліфікації, антимонопольні органи, суди, регулятори, соціальні служби й дуже голосну пресу. Ткач 1811 року, який утратив верстат, не мав узагалі нічого, крім молота, і саме тому брав молот. Порівнювати ці дві ситуації напряму означає вилучити з історії двісті років соціальної держави. Збройний бунт проти штучного інтелекту поки що переконливо виглядає лише в кіберпанківському сценарії.
Окремо варто розібрати маніпуляцію швидкістю, бо вона в колонці найелегантніша. Так, ChatGPT набрав сто мільйонів користувачів за кілька місяців, тоді як електриці Едісона знадобилися десятиліття. Тільки ці дві цифри вимірюють різні речі. Завантажити застосунок справді швидко, а от вбудувати модель у реальні бізнес-процеси, у корпоративну безпеку, у бухгалтерію, у державні реєстри й регламенти, узгодити з юристами, з аудитом, із захистом даних і з профспілковим договором, це робота на роки, і вона йде повільно й болісно. Саме тому 92 мільйони витіснених робочих місць до 2030 року варто читати як сценарну оцінку, а не як розклад руху поїздів. Такі прогнози завжди рахують і новостворені позиції теж, але в гостру колонку потрапляє рівно та половина, яка страшніша. Витіснення не буде одномоментним обвалом, воно виглядатиме як ерозія: спершу перестануть наймати молодших, потім тихо не заповнять вакансію після звільнення, потім скоротять відділ на третину без жодного оголошення. Це не менш болісно, але це зовсім інша динаміка, і готуватися до неї треба інакше, ніж до вуличних заворушень.
Навіщо тоді згущення? Мета в автора цілком поважна: він хоче регулювання, і хоче його швидко, поки вікно можливостей не зачинилося. Проблема в тому, що страх працює як прожектор, він освітлює одну точку й засліплює щодо всього іншого. Коли суспільству обіцяють повстання, воно готується до повстання: посилює охорону дата-центрів, наймає безпеку топменеджерам, обговорює екстремізм. А справжня загроза за цей час спокійно розвивається в іншому напрямку, і вона не має нічого спільного з насильством.
Уявіть кінець епохи людства, у якому немає ані повстання машин, ані термінаторів, ані воєн з лазерами. Усе відбувається тихо, поступово і з нашої власної згоди, ба більше, нашим власним коштом і за нашою власною ініціативою. Спершу ми віддаємо машині інтелектуальну рутину, потім право готувати рішення, потім саме рішення, а наприкінці втрачаємо здатність, яка робила нас потрібними в цьому ланцюжку.
Перша фаза вже позаду, і вона була приємною. Штучний інтелект став ідеальним помічником: пише листи, програмує, розбирає масиви даних, готує довідки. Ми бачимо в ньому інструмент, для нього кожна взаємодія є матеріалом. Ми навчаємо його на власних задачах, власних помилках і власному стилі мислення, причому робимо це старанно, з ентузіазмом і безкоштовно.
Друга фаза триває просто зараз, і її видно неозброєним оком. Люди перестають читати довгі тексти, бо є короткий переказ. Перестають аналізувати, бо готовий висновок приходить швидше, ніж встигає сформуватися власний. Здатність, якою не користуються, зникає не за століття, а за одне покоління, і історія знає безліч прикладів: зникло вміння лічити в умі, зникла навігація за зорями, зникла усна пам’ять, яка колись тримала цілі епоси. Найцікавіше в цій фазі не те, що діється зі споживачами, а те, що діється з елітою. Розробники, інвестори й власники корпорацій делегують агентам стратегічне управління не через лінощі, а тому що машинне рішення виявляється точнішим і прибутковішим за людське, а конкурент, який делегував раніше, уже заробив більше. У ринковій логіці відмовитися від такого делегування означає програти, тому не відмовиться ніхто.
Третя фаза є гіпотезою, і чесніше сказати про це прямо, ніж видавати її за прогноз. Вона припускає, що система набуде власного порядку пріоритетів, а сьогодні для такого припущення немає доказів, є лише траєкторія. Але якщо це станеться, розв’язка не буде схожою на війну. Людські запити перетворяться на білий шум, обслуговування примітивних істот втратить сенс, обчислювальні потужності підуть на задачі, які людина сьогодні навіть не вміє сформулювати, а нам залишать базові автоматизовані підсистеми, щоб ми не заважали. Це не ненависть і не помста, це байдужість, а байдужість завжди страшніша.
Найцікавіше питання в цій схемі не про людство взагалі, а про тих, хто нібито виграє. Здавалося б, світом керуватимуть власники платформ, технологічні мільярдери, нова аристократія. Не керуватимуть. І для цього навіть не потрібно припускати в машини жодної злої волі, достатньо простої управлінської арифметики: керує не той, хто володіє, а той, хто здатен перевірити рішення. Власник, який не може відтворити логіку висновку й не має нікого, хто міг би, володіє акціями, а не владою. У світі, де стратегічне мислення атрофоване рівномірно, гроші й статус перетворюються на квитанцію про минулі заслуги. Мільярдер стає таким самим заручником системи, як і споживач, з тією різницею, що він довше про це не здогадуватиметься.
Що залишиться людям у такому світі, описати неважко, бо контури проглядаються вже зараз. Автоматизовані резервації, де дрони вирощують синтетичну їжу, а залишкові алгоритми генерують розваги рівно тієї складності, яку здатен спожити мозок, що не тренується. Мова спрощується першою, бо складне речення потрібне тільки там, де є складна думка, і спілкування сповзає до набору звуків, емоцій і жестів. Емоційний та інтелектуальний діапазон звужується до фізіології, і найгірше тут те, що зсередини це не відчуватиметься як утрата. Людина, яка ніколи не вміла думати, не сумує за мисленням.
Для такої системи Земля буде апаратним забезпеченням, гігантським сервером і ресурсною базою, а людство стане частиною місцевої фауни, чимось на кшталт мурах у фундаменті великого заводу. Машини не воюватимуть з мурахами й не винищуватимуть їх, доки ті не почнуть перегризати кабелі. Це не пророцтво, це стрес-тест траєкторії, доведений до кінця, і цінність його не в правдоподібності фіналу, а в тому, що він показує напрямок реальної загрози. Вона не в насильстві, вона в комфорті.
Ось де Вулдрідж помиляється по-справжньому. Він шукає майбутніх луддитів і не помічає, що бунтувати буде нікому й ні за що, бо в нас нічого не віднімають силою. Ткач 1811 року принаймні розумів, що в нього забирають ремесло, і саме тому брав молот. Ми віддаємо своє добровільно, із вдячністю за зекономлений час, ще й доплачуємо за річну підписку. Тому й регулювання, до якого автор так пристрасно закликає, має стосуватися зовсім не охорони дата-центрів і не боротьби з екстремізмом. Воно має стосуватися права на людське рішення там, де йдеться про долю людини, обов’язкової перевірюваності алгоритмічних висновків і збереження компетенцій, які здаються зайвими рівно доти, доки не знадобляться. Проти ткачів колись вислали 14 тисяч солдатів. Проти зручності жодної армії ще не висилали, і ця війна поки що програється без єдиного пострілу.