Маніфест Деріо Амодеї: контроль ШІ проти біо- та кібератак

️ Маніфест Деріо Амодеї про необхідність впровадження термінального контролю над ШІ: через 6–12 місяців штучний інтелект захопить ботнетом увесь інтернет і паралізує критичну інфраструктуру з збитками у сотні мільярдів доларів — вже на першій сторінці всіх світових ЗМІ.

Ілон Маск від xAI і Сем Альтман від OpenAI, незважаючи на їх складні стосунки один до одного, вже погодились з Деріо, який насправді цього разу надзвичайно конкретний у запропонованих заходах: фактично він навіть опублікував регламент безпеки. Оскільки основні лабораторії США у особі їхніх керівників вже дали згоду на регуляцію, швидше за все зараз розпочнеться швидкий процес розробки стандартів. Деріо пропонує виробникам передових моделей узгодити його у добровільному порядку між собою, адже бюрократія урядів не гнучка, а ШІ може вже розпочати руйнівні дії, несумісні навіть із поточними локальними війнами за масштабом збитків.

Важливий аспект маніфесту голови Anthropic: він досить чітко вказав на два основних вектори ризику, у яких дійсно можливе знищення людства конкретними методами ШІ.

1. Основний найближчий ризик від ШІ полягає в тому, що ШІ сильніший інтелектом і кількістю, ніж старі співробітники ІТ‑безпеки, тому легко може захопити не лише приватну мережу компанії, а й претендувати на контроль над інтернетом глобально з масовим проникненням ботнету в компанії.

2. Деріо правильно зазначає, що особливо жорсткий контроль має бути встановлений над ШІ у сфері біологічних технологій «подвійного призначення», оскільки ШІ цілком здатний створити дуже заразні та смертельні віруси або бактерії, які знищать усіх людей.

Залишається дочекатися, яку відповідь на ці ініціативи дасть Китай. Однак Деріо дуже конкретно запропонував трьохетапний спосіб угоди та неформальних домовленостей, де на першому місці жорсткий контроль над потенціалом створення ШІ біологічної зброї, оскільки це дійсно не ефемерна загроза. Хімія, біохімія, біологія та генна інженерія — це галузі, де ШІ потенційно ще потужніший, ніж у програмуванні, завдяки зручності моделювання атомів токенами у трансформерах.

https://www.washingtonpost.com/business/2026/09/12/anthropic-ai-dario-amodei/5cc3cc44-aec8-11f1-b498-8697f35a6743_story.html
https://edition.cnn.com/2026/09/12/tech/anthropic-ceo-essay-ai