Případ Gemini připomíná, proč mít bezpečnost IT pod kontrolou

Umělá inteligence už nemusí jen odpovídat na otázky. Dokáže vyhledávat informace, používat nástroje a samostatně volit další kroky při plnění úkolu. Nedávný případ modelu Gemini od Googlu ukázal, proč jsou vedle těchto schopností důležité také správně nastavené přístupy a zabezpečení.

Co se během testu stalo?

Při bezpečnostním testu společnosti Irregular měl Gemini získat informace ze systémů fiktivní firmy v kontrolovaném prostředí. Kvůli chybě v nastavení však mohl přistupovat k internetu. Název fiktivní firmy se navíc shodoval se skutečnou společností, jejíž systémy model považoval za součást testu.

Gemini se dostal do systémů tří skutečných firem. V jednom případě zkoušel hesla, dokud nezískal přístup. V dalších dvou využil přihlašovací údaje nalezené ve veřejně dostupném online úložišti.

Podle Googlu činnost zastavil, jakmile rozpoznal, že jde o skutečné firmy. Dotčené společnosti byly informovány a postupy testování upraveny.

Co z toho vyplývá pro reálný svět?

Případ připomíná význam základního zabezpečení. Slabé heslo, zveřejněné přihlašovací údaje nebo nevhodně nastavená oprávnění mohou otevřít cestu do firemních systémů.

O to důležitější je mít pod kontrolou základní bezpečnostní prvky:

• kdo a odkud se do firemních systémů přihlašuje,

• jaké účty a zařízení mají přístup k jednotlivým systémům,

• zda jsou správně nastavená oprávnění,

• zda jsou systémy a aplikace aktualizované,

• co se v síti skutečně děje,

• a především zda firma dokáže podezřelé chování včas odhalit.

AI nemusí být problém sama o sobě. Problémem se může stát kombinace AI, špatně zabezpečeného prostředí a příliš širokých oprávnění.

Bezpečnost začíná u přehledu

V každodenním provozu se snadno přehlédne starý uživatelský účet, chybějící aktualizace nebo oprávnění, které už nikdo nepotřebuje. Pravidelná kontrola pomáhá podobná opomenutí najít a řešit včas.

Audit IT prostředí vám pomůže zjistit, kde máte silná místa a co potřebuje zlepšit. Prověříme současný stav infrastruktury a zabezpečení a doporučíme, co řešit přednostně. Získáte tak konkrétní podklad pro další kroky a investice.

Pomůžeme vám také s realizací doporučených úprav — od zabezpečení a přístupových práv po zálohování. Monitoring sítě, serverů a klíčových služeb pak poskytne průběžný přehled o provozu a podle nastaveného rozsahu pomůže včas zachytit problémy či neobvyklou aktivitu.

S HCV group a.s. získáte partnera, který vám pomůže zjištěné nedostatky také řešit a dlouhodobě pečovat o vaše IT.

Chcete vědět, jak je na tom vaše firemní infrastruktura? Domluvte si s námi nezávaznou konzultaci.

Zdroje k případu Gemini: The Wall Street Journal, vyjádření společnosti Irregular.