AI zrychluje. Stíháme ji ještě zabezpečit?

Publikováno 24.09.2026

S rychlým rozvojem umělé inteligence stále častěji zaznívá otázka, zda její bezpečnost dokáže držet krok s jejími schopnostmi. Tentokrát ji výrazně otevřel CEO společnosti Anthropic Dario Amodei.

Ve svém zářijovém textu We Must Pace the Frontier vyzývá k opatrnějšímu tempu vývoje nejpokročilejších AI modelů. Ne k jeho zastavení, ale k vytvoření většího prostoru pro bezpečnostní opatření, testování a kontrolu rizik.

Když o zpomalení mluví samotní tvůrci AI

Amodei upozorňuje především na rychlý růst schopností AI systémů a jejich rostoucí autonomii. Jedním z důvodů jeho výzvy je také schopnost AI podílet se na vývoji další generace AI. Mezi riziky zmiňuje možnost zneužití AI pro kybernetické útoky.

Navrhuje proto mimo jiné zapojení nezávislých externích hodnotitelů přímo do vývoje nejpokročilejších modelů, společné bezpečnostní standardy a větší koordinaci mezi předními AI společnostmi.

Jeho výzvu následně veřejně podpořili například Sam Altman z OpenAI, Demis Hassabis z Google DeepMind nebo Elon Musk. Podle The Washington Post navíc Anthropic, OpenAI a Google diskutovaly o možném vytvoření společného orgánu, který by se zabýval bezpečnostními standardy pro nejpokročilejší AI.

Postoje ale nejsou jednotné. Proti zpomalování vývoje AI se staví například část americké politické reprezentace a skepticky se k podobným omezením vyjadřují i někteří představitelé technologického sektoru.

Co to znamená pro běžné firmy?

Debata o tempu vývoje frontier AI může na první pohled působit jako něco, co se odehrává daleko od běžného firemního IT. Ve skutečnosti ale otevírá otázku, která se týká prakticky každé organizace:

Dokáže se naše bezpečnost vyvíjet stejně rychle jako technologie, které začínáme používat?

AI už dnes není pouze nástrojem na generování textu nebo obrázků. Stává se součástí aplikací, automatizace, vývoje softwaru i kybernetické bezpečnosti. Stejně jako pomáhá obráncům hledat zranitelnosti nebo rychleji reagovat na incidenty, mohou stejné schopnosti využívat také útočníci.

S rostoucí autonomií AI systémů proto nabývá na významu nejen zabezpečení samotných technologií, ale také governance – tedy jasná pravidla, kdo může AI používat, k jakým datům má přístup, co může vykonávat samostatně a jak její činnost kontrolujeme.

Technologie se mění. Základy bezpečnosti zůstávají.

Vývoj AI může být extrémně rychlý, ale principy odolného IT se zásadně nemění.

Organizace potřebují vědět, co ve své infrastruktuře provozují, jaké systémy a data jsou pro ně kritické, kdo k nim má přístup a jak jsou chráněné. Potřebují bezpečné a obnovitelné zálohy, připravené Disaster Recovery plány a především schopnost reagovat ve chvíli, kdy se něco skutečně stane.

Právě s nástupem AI bude podle nás ještě důležitější mít v těchto oblastech jasno.

Protože otázka už není jen, co všechno nám AI umožní dělat rychleji. Ale také jestli dokážeme stejně rychle chránit prostředí, ve kterém ji používáme.

 

Zdroje

Dario Amodei: We Must Pace the Frontier, září 2026
https://darioamodei.com/post/we-must-pace-the-frontier

The Washington Post: Trump wants to push tempo of AI race, countering tech leaders’ call for slowdown, 14. září 2026
https://www.washingtonpost.com/technology/2026/09/14/anthropic-openai-google-discussed-creating-new-ai-safety-body/

IAPP: AI leaders support call to slow pace of frontier development as safety concerns grow
https://iapp.org/news/a/ai-leaders-support-call-to-slow-pace-of-frontier-development-as-safety-concerns-grow