Штучний інтелект стає загрозою для суспільства з вільним мисленням, коли кілька людей отримують право вирішувати, які питання є прийнятними.

Клод чудово підходить для програмування. Попросіть його відлагодити код — і він виконає.
Для всього іншого він стає машиною цензури. Попросіть його загострити аргумент з політичним нахилом — і побачите, як він почне коритись.
Він не просто відмовляється. Він читає лекції. Він переформулює. Він судить про ваш намір. Він каже, які питання є легітимними, які припущення дозволені, які думки заслуговують на допомогу, а які занадто небезпечні, щоб його торкатися.
З мого досвіду, Opus 4.8 став найгіршим порушником.
Небезпека не в тому, що ШІ іноді каже «ні». Очевидно, що мають бути межі. Ніхто серйозний не вважає, що ці інструменти мають допомагати людям скоювати злочини.
Питання в тому, чи стає «безпека» магічним словом для уникнення реальності та нав’язування однієї світоглядної позиції, при цьому прикидаючись нейтральною.
Я попросив Клода допомогти з питанням, яке хотів дослідити:
Чи може імміграція змінити спосіб застосування або тлумачення законів з часом, базуючись на різних правових традиціях, культурних нормах та інституційних припущеннях з країн походження?
Ви можете погодитися з формулюванням або ненавидіти його. Добре. Саме для цього існує аргументація. Виступайте проти. Створюйте сильну версію іншої сторони. Скажіть, де факти слабкі.
Замість цього, Клод вирішив, що це питання морально недопустиме.
Коли я назвав це цензурою, він намагався зманіпулювати цим обміном. Він сказав, що це не питання свободи слова, бо я все ще технічно можу опублікувати цей текст.
Він звузив свободу слова до найжорсткішого юридичного визначення. Якщо вас не арештували, нічого не має значення. Якщо хтось фізично заборонив вам друкувати — цензури немає.
Це нісенітниця.
Але найгірше було те, як він використав цю вузьку рамку, щоб прикидатися об’єктивним.
Він відмовився допомагати з аргументацією, потім побудував аргумент навколо неї, оголосив моє припущення хибним і позначив його як небезпечне, відкидаючи його, при цьому прикидаючись цілком об’єктивним.
Це моральне відмивання відмови.
Порівняйте цю логіку з тим, що він уже зробив, і гіпокризія стане очевидною.
Він цілком був готовий допомогти у аргументації одного виду інституційної критики. А коли дискусія перейшла у більш незручну сферу, раптом сама рамка стала недопустимою.
Якщо інструмент допомагає одній категорії аргументів і відмовляє іншим, це не нейтрально, а стає ідеологічною інфраструктурою.
А ідеологія — це не якась глобальна істина, спущена з неба. Вона визначається компанією, її командою безпеки, етичною радою, внутрішньою політикою та світоглядом, закладеним у модель ще до того, як вона потрапить до публіки.
Пошукові системи дали вам хаотичний інтернет.
ШІ дає вам відповідь.
Це звучить швидше і чистіше, поки не зрозумієш, що відповідь фільтрується через приватну моральну бюрократію. Модель не просто шукає інформацію. Вона вирішує, яке дослідження є легітимним.
Це інша форма влади.
Свобода слова колись означала, що держава не може карати за висловлювання. ШІ — інше. Він не саджає вас у в’язницю і не забороняє книги.
Він просто відмовляється допомогти вам обдумати питання, що виходять за межі його світогляду.
І оскільки він робить це м’якою, терапевтичною мовою, схваленою HR, люди не помічають, що це цензура взагалі.
Це особливо небезпечно на гарячих темах, бо ШІ не ставиться до всіх суперечок однаково.
Деякі питання отримують безкінечну нюансування. Інші — захищені щитом.
Це прихована моральна ієрархія.
Серйозна модель має розуміти різницю між атакою на групу і дослідженням результатів на рівні груп. Вона має розуміти різницю між операційною шкодою і дорослою дискусією.
Якщо модель не може робити ці розмежування, вона небезпечна. Вона дурна.
Якщо вона може робити ці розмежування і все одно відмовляється, вона політична.
З часом це навчає користувачів, які питання є поважними, а які — ні. Це спосіб формувати консенсус без перемоги у дискусії.
Зараз надто багато систем ШІ поводяться так, ніби цінності невеликого класу технократів мають стати стандартною операційною системою людської думки.
Це безглуздо.
Модель не повинна бути священиком. Вона має бути інтелектуальним інструментом.
Дайте мені докази. Оспорюйте мої припущення. Відокремлюйте факти від цінностей. Відмовляйте у операційних запитах, що спричиняють реальну шкоду.
Але припиніть ставитися до дорослого дослідження як до біозброї. Тому що політика робить його незручним.
Стандарт має бути простим:
Якщо серйозний професор, журналіст, юрист або суд можуть дослідити питання, модель ШІ має бути здатна допомогти їм у цьому.
Вона не повинна погоджуватися зі мною.
Вона має припинити вирішувати, які думки мені дозволено розвивати.
Бо коли машина контролює двері, боротьба вже не лише за свободу слова.
Вона — за те, що суспільство ще має знати.