«Проявляйте обережність»: Ілон Маськ попереджає після того, як Amazon, як повідомляється, провів обов'язкову зустріч щодо AI-інциденту з «високим радіусом вибуху»

Елон Маск висловив свою думку щодо повідомлень про те, що Amazon займається вирішенням недавніх збоїв, зокрема одного, пов’язаного з допомогою штучного інтелекту у програмуванні.

Рекомендоване відео

Гігант електронної комерції провів у вівторок обов’язкову нараду для «глибокого аналізу» кількох збоїв, зокрема тих, що сталися через використання функцій штучного інтелекту для програмування, повідомила Financial Times, посилаючись на внутрішні брифінги та електронні листи. За даними видання, Amazon заявила, що за останні кілька місяців спостерігається «тренд інцидентів» із «високим радіусом поширення», що стосуються «змін, підтримуваних Gen-AI», а також інших факторів.

Раніше цього місяця сайт Amazon та додаток для покупок були недоступні для деяких користувачів, понад 22 000 користувачів повідомили про проблему, згідно з трекером збоїв Downdetector. Клієнти не могли оформити замовлення, переглянути ціни на товари або отримати доступ до своїх облікових записів. Тоді Amazon повідомила, що причина збою — «розгортання програмного коду».

Повідомлення про цю нараду привернуло увагу технічних експертів, зокрема Маска, який зробив свої коментарі публічними у відповідь на пост Лукаша Олейніка, консультанта з кібербезпеки та запрошеного старшого дослідника у Військовому департаменті Коледжу Лондона.

«Amazon проводить обов’язкову нараду щодо збоїв у системах через AI», — написав Олейнік.

«Будьте обережні», — відповів Маск.

Дейв Трідвелл, старший віце-президент Amazon з електронної комерції, повідомив у електронному листі, що щотижнева зустріч «This Week in Stores Tech» (TWiST) частково буде використана для впровадження додаткових обмежень щодо використання AI інженерами, зокрема вимоги до більш старших інженерів підписуватися під змінами, зробленими молодшими та середніми інженерами за допомогою AI.

«Люди, як ви, мабуть, знаєте, доступність сайту та інфраструктури останнім часом була не дуже доброю», — написав Трідвелл у внутрішньому листі, повідомляє FT.

Представник Amazon повідомив Fortune, що зустріч TWiST є регулярною щотижневою операційною нарадою з командою роздрібних технологій та керівниками для огляду операційної діяльності.

«Як частина звичайної роботи, на цій зустрічі буде розглядатися доступність нашого сайту та додатку, оскільки ми зосереджені на постійному покращенні», — заявив представник у коментарі.

Компанія підтвердила, що Amazon Web Services (AWS) не був залучений до інцидентів. Amazon заявила, що лише один з інцидентів був пов’язаний з AI, але жоден з них не стосувався коду, написаного штучним інтелектом. За словами компанії, молодші та середні інженери не зобов’язані отримувати підпис від старших інженерів щодо змін, зроблених за допомогою AI.

Ризики швидкого впровадження AI

Збої та подальша нарада викликали занепокоєння у кібербезпекових експертів щодо ризиків, пов’язаних із швидким розгортанням інструментів AI. Такі функції, як AI-помічник Q Amazon, можуть прискорити процес програмування, створюючи більше коду швидше, але це може призвести до порушень у системах, що визначають, як цей код пишеться, перевіряється та розгортається, роблячи платформи більш вразливими до збоїв, повідомив Олейнік у Fortune.

«Я не заперечую проти впровадження AI», — сказав він. «Такого й не існує. Це неможливо зупинити. Усі будуть впроваджувати AI. Це аргумент проти швидкості заради самої швидкості або використання AI заради використання AI».

Наприкінці минулого року Amazon почала процес звільнення тисяч співробітників, посилаючись на бажання стати більш ефективними та культурно переорієнтувати компанію. Це скорочення тривало і цього року, у січні компанія скоротила штат ще на 16 000 працівників. Тим часом Amazon продовжує інвестувати у AI, прогнозуючи капітальні витрати у 2026 році на рівні 200 мільярдів доларів, що є зростанням порівняно з 131 мільярдом у 2025 році.

Маск раніше заявляв, що до кінця 2026 року AI повністю обійде програмування.

Олейнік попередив, що швидкий перехід від людського програмування до систем, керованих AI, може призвести до пропуску заходів безпеки, що спричинить тривалі збої або втрату даних, що може «вибухнути» бізнес через безвідповідальне впровадження AI.

На запитання він відповів, що з Маском він повністю погоджується щодо рівня уваги, яку слід приділяти впровадженню AI у технологіях.

«Я з ним погоджуюсь», — сказав Олейнік. «AI відкриває багато можливостей, але існує золота середина між застаріванням через нерозумне використання AI і руйнуванням бізнесу через необдумані впровадження».

У 2001 році Fortune вперше зібрав «Найрозумніших людей, яких ми знаємо», об’єднавши CEO, засновників, розробників, інвесторів, мислителів і діячів. З того часу Fortune Brainstorm Tech став місцем, де зіштовхуються сміливі ідеї. З 8 по 10 червня ми повернемося до Аспену — місця, де все почалося, — щоб відзначити 25 років Brainstorm. Реєструйтеся зараз.