Bezpečnost firemní AI

Kolego pracuje. Rozhodujete vy.

Firemní AI, které můžete svěřit poštu, faktury i banku. Hlídá ji to, co ve firmě platí pro lidi: práva, schvalování a záznam o každém kroku.

  • Vidí jen to, co smíte vyPráva hlídá server podle rolí. Obchodník uvidí svoje zakázky, mzdy ne.
  • Nic neodejde bez vásE-mail ven a platbu schvalujete pokaždé. Co má větší dopad, schválí vedoucí.
  • Každý krok má záznamKdo se ptal, co Kolego četl, co zapsal a kdo to schválil.

Z našeho provozu: 311 akcí čekalo na člověka, žádný e-mail neodešel sám.

Bezpečnost za minutu

Jak Kolego hlídá vaše data

Co Kolego vidí, co schvalujete vy, kde je o tom záznam, kam tečou data a co z nich uvidí model. Titulky jsou zapnuté, takže to pochopíte i bez zvuku.

  1. 0:14Kdo co vidí
  2. 0:22Schvalování
  3. 0:34Audit
  4. 0:41Data
  5. 0:48Pseudonymizace
  6. 0:58Z provozu
  7. 1:06Závěr

Bezpečnost, která AI pouští k práci

Kolego není chat, který jen radí. Pracuje ve vašich systémech, a právě proto má pravidla zabudovaná přímo v sobě.

01Práce

AI může dělat skutečnou práci

Pustíte ji k poště, fakturám i bance. Co má následky, počká na člověka, takže se nemusíte bát, že něco odejde samo.

02Jedna AI

Žádná AI bokem

Lidé nemusí nosit smlouvy do soukromých chatů. Jedna firemní AI pro všechny, s právy podle rolí, a víte, kdo s čím pracoval.

03Audit

Kontrola za pět minut, ne za týden

Audit, GDPR nebo spor se zákazníkem: otevřete záznam. V konzoli ho nejde smazat ani upravit a vyexportujete ho do CSV.

Na co si Kolego samo nesáhne

Tyhle hranice hlídá server, ne jazykový model. Nedá se je obejít šikovně položenou otázkou.

Neodešle e-mail ven

Připraví koncept a ukáže přesné znění.

E-mail mimo firmu odejde, až kliknete Schválit. Pokaždé.

Nezaplatí

Platbu připraví jen k podpisu v bankovnictví, se stropem na jeden příkaz.

Podepisujete vy, v bance.

Nesmaže ani nepřepíše data

Zápis do vašich systémů i smazání se nejdřív zeptá. Smazané soubory jdou do koše.

Jestli se příště ptát nemá, rozhodne člověk, ne AI.

Neukáže, na co nemáte právo

Práva hlídá server, ne jazykový model. Do systémů se Kolego ptá jen s právy toho, za koho pracuje.

Agent nikdy nedostane víc práv než jeho vedoucí.

Cesta dat krok za krokem

Na každém kroku víte, kdo data vidí a kudy jdou. A všechno, co se stane, skončí v auditu.

  1. Vy01

    Zeptáte se nebo zadáte práci.

    přihlášení · role
  2. Kolego02

    Server zkontroluje práva a pravidla. Co má následky, počká na schválení.

    brána
  3. Vaše systémy03

    Účetnictví, pošta, banka. Jen s právy toho, kdo se ptá.

    klíče šifrovaně
  4. Jazykový model04

    Dostane jen text k úkolu. U kreditu od nás a klíče Anthropic API se na něm netrénuje.

    jen text k úkolu

Audit pod tím vším: kdo, kdy, s jakými údaji, kdo schválil a jak to dopadlo. V konzoli nejde smazat ani upravit.

Data firmy ukládáme v EU a každá firma má vlastní instanci. Jazykový model může text k úkolu zpracovat i mimo EU, přenos kryjí standardní smluvní doložky podle GDPR. Ochrana soukromí

Co má schválit vedoucí, počká na vedoucího

U každé akce určíte pro každou roli, jestli ji Kolego udělá bez ptaní, zeptá se, pošle ji ke schválení nadřízenému, nebo ji neudělá nikdy. Platí to i pro agenty, jejich žádosti schvaluje jejich vedoucí.

NN
Role Obchodukázka nastavení v konzoli
  • Číst faktury a zakázkybez ptaní
  • Připravit koncept e-mailubez ptaní
  • Odeslat e-mail mimo firmuzeptá se
  • Zapsat obchod do CRMzeptá se
  • Připravit platbu dodavatelischválí vedoucí
  • Mzdynikdy
  1. 01

    Kolego se zeptá

    Akce, kterou má schválit nadřízený, se zastaví: „Tohle schvaluje Viktor. Poslat ke schválení?“ Připíšete poznámku a pošlete.

  2. 02

    Schválí vedoucí

    Žádost najde v okně Ke schválení. Když není, jde jeho zástupu, pak schvalující roli a nakonec správci.

  3. 03

    Provede se přesně to schválené

    Kolego udělá akci za žadatele se stejnými údaji, jaké vedoucí viděl, a výsledek pošle zpátky do konverzace.

  4. 04

    Nic nevisí věčně

    Neschválená žádost po týdnu vyprší, lhůtu si nastavíte. A žadatel si vlastní žádost neschválí.

I po telefonu. Když Kolego v hovoru něco mění, přečte vám to a nechá si to potvrdit kontrolním slovem, které vylosuje. Platby mimo ověřené účty dodavatelů, mzdy a hromadné rozesílky hlasem nejdou nikdy.

Jak to vypadá v našem vlastním provozu

Kolego používáme denně nad reálnými fakturami a klienty. Čísla jsou z jeho auditu, včetně toho, co se nepovedlo.

311akcí čekalo na schválení člověkem
0e-mailů odešlo samoz 56 konceptů
1 599volání nástrojů v auditu
5,9 %volání skončilo chyboua víme o každém

Na co se ptá IT a právník

Potřebujete víc do bezpečnostního dotazníku? Napište nám. Odpovídají lidé, kteří Kolego vyvíjejí.

Napsat nám
01Kam ta data tečou?

Data firmy, tedy databáze, soubory, znalosti i audit, leží na serverech v EU a každá firma má vlastní instanci. Do jazykového modelu jde jen text potřebný k úkolu. Poskytovatelé modelů (Anthropic, Google, OpenAI) ho mohou zpracovat i mimo EU, přenos kryjí standardní smluvní doložky podle GDPR.

02Učí se model na našich datech?

U kreditu od nás ani u vlastního klíče Anthropic API ne: data jdou do modelu jen jako kontext úkolu a trénování je vyloučené. Bezplatné modely a spotřebitelská předplatná na firemní data nedoporučujeme.

03Uvidí model jména a čísla účtů?

Jen když je k úkolu potřebuje. Kdo chce víc, tomu zapneme pseudonymizaci: jména, e-maily, telefony, čísla účtů a rodná čísla dostane model jen jako zástupné značky a skutečné hodnoty se doplní až u vás. Částky a adresy zůstávají, jak jsou.

04Co se stane, když Kolego udělá chybu?

Zastaví se a řekne to. Každý běh dohledáte v auditu a za chybné běhy neúčtujeme.

05Co když někdo z firmy odejde?

Vypnutý účet ztratí přihlášení i roli. Jeho automatizace se pozastaví a správce je převede na jiného člověka, agenti přejdou k vedoucímu. Co by odchod způsobil, si můžete předem nasimulovat.

06Můžeme si Kolego provozovat u sebe?

Ano. Celá instance i s daty může běžet na vašem serveru a do interních systémů se připojí přes VPN. Jazykový model zůstává v cloudu u poskytovatele a správu stroje dál děláme my.

07Jak se pozná, že aktualizace nic nerozbila?

Každou změnu prověří přes 5 000 automatických testů. Nejdřív běží v našem vlastním provozu a teprve potom u klientů.

08Jak se do Kolego přihlašuje?

Účtem Google nebo heslem. Správce může všem nařídit druhé ověření kódem z aplikace.

Našli jste v Kolego zranitelnost?

Napište nám na info@lqd.cz. Ozveme se do tří pracovních dnů a budeme vás průběžně informovat. Výzkum podle těchto pravidel je povolený a právní kroky kvůli němu nepodnikneme.

Prosíme vás

  • Ozvěte se co nejdřív a před zveřejněním nám dejte rozumný čas na opravu.
  • Testujte jen na účtech, které jsou vaše nebo ke kterým máte svolení. Data jiných uživatelů a firem nečtěte, neměňte ani nemažte.
  • Zranitelnost jen ověřte. Nevyužívejte ji k získání dat, k trvalému přístupu ani k průniku na další systémy.
  • Když narazíte na citlivá data, přestaňte, hned nám napište a data nikomu nedávejte.
  • Neposílejte velké množství nekvalitních hlášení.

Čeho se pravidla týkají

  • web kolego.cz
  • aplikace Kolego na *.kolego.cz
  • konzole console.kolego.cz
  • rozšíření Kolego pro Chrome a Edge

Mimo rozsah jsou aplikace, které si klienti zveřejní na *.kolego.cloud, cizí služby, na které se Kolego napojuje (Google, Anthropic, SendGrid, LinkedIn a další; hlaste je jejich provozovatelům), útoky na dostupnost (DoS), sociální inženýrství a fyzické testy.

Do hlášení prosím uveďte popis, kde jste zranitelnost našli, možný dopad a kroky k zopakování, ideálně se skriptem nebo snímky. Hlášení může být anonymní, česky nebo anglicky.

Vulnerability disclosure (in English)

Report vulnerabilities to info@lqd.cz; we acknowledge reports within three business days and keep you informed. In scope: the kolego.cz website, the Kolego web application (*.kolego.cz), the console at console.kolego.cz and the Kolego browser extension for Chrome and Edge. Out of scope: customer applications at *.kolego.cloud, third-party services, denial of service, social engineering and physical testing. Test only with accounts you own or are authorized to use, do not access or change other users’ data, stop and tell us if you encounter sensitive data, and give us reasonable time to fix the issue before disclosing it. Good-faith research under these rules is authorized and we will not pursue legal action. See also security.txt.

Projdeme s vámi, co by Kolego u vás vidělo

30 minut. Ukážeme Kolego nad reálnými daty Liquid Design, vy nám řeknete, kde by se hodil ve vaší firmě.