AI Act v telefonu: kdy musí asistentka říct, že je AI, a jak je to s voláním zákazníkům

Hlasoví asistenti dnes zní tak přirozeně, že volající často nepozná, že nemluví s člověkem. Právě na to míří nová pravidla EU. Neznamená to, že AI do telefonu nepatří. Znamená to, že musí být od začátku jasné, kdo je na druhé straně.

AI Act

Nařízení Evropského parlamentu a Rady (EU) 2024/1689 o umělé inteligenci, česky akt o umělé inteligenci. Platí přímo ve všech státech EU.

Poskytovatel

Ten, kdo systém AI vyvíjí a uvádí na trh pod svým jménem.

Zavádějící subjekt

Ten, kdo systém AI používá ve své činnosti, například firma, která si asistentku nastaví na svůj telefon.

Co říká článek 50

Článek 50 odst. 1 ukládá poskytovatelům zajistit, aby systémy AI určené k přímé interakci s fyzickými osobami byly navrženy tak, že dotčené fyzické osoby budou vyrozuměny o tom, že komunikují se systémem AI. Výjimkou je situace, kdy je to zřejmé rozumně informovanému a pozornému člověku.

Odstavec 5 dodává, jak a kdy: informace se poskytuje jasným a rozlišitelným způsobem nejpozději v době první interakce a musí odpovídat požadavkům na přístupnost.

Evropská komise ve svých otázkách a odpovědích k článku 50 vysvětluje, že povinnost se týká systémů, se kterými člověk vede skutečnou obousměrnou komunikaci, a výjimku „je to zřejmé“ je třeba vykládat úzce. U telefonu, kde člověk vidí jen číslo a slyší hlas, se na zřejmost spoléhat nedá.

Od kdy to platí

Článek 50 se použije od 2. srpna 2026. Komise uvádí jen omezenou přechodnou lhůtu do 2. prosince 2026, a to pro označování obsahu generovaného AI u systémů uvedených na trh dřív (čl. 50 odst. 2). Povinnosti informovat o tom, že člověk mluví s AI, se tato lhůta netýká.

Úpravy AI Actu přijaté v roce 2026, takzvaný digitální omnibus, odložily podle dostupných právních výkladů hlavně pravidla pro vysoce rizikové systémy. Povinnosti transparentnosti podle článku 50 zůstaly na původním termínu.

Kdo za to odpovídá

Povinnost podle odst. 1 míří na poskytovatele: systém má být navržený tak, aby se představil. Jako firma, která asistentku používá, byste ale neměli sahat do nastavení tak, aby to přestala říkat, a vyplatí se zkontrolovat, jak úvodní věta zní. Za porušení povinností podle článku 50 hrozí podle čl. 99 odst. 4 pokuta až 15 milionů EUR nebo 3 % celosvětového ročního obratu, podle toho, co je vyšší.

Klára to řeší napevno: v úvodní větě řekne, že je AI asistentka, a zároveň že hovor zaznamenává. Kdo s AI mluvit nechce, tomu jen zapíše jméno a vzkaz. Jak naložit s nahrávkou podle GDPR, rozebírá článek Nahrávání hovorů a GDPR.

Jak to říct lidsky

Zákon neurčuje přesnou formulaci. Dobrá úvodní věta je krátká, nic neskrývá a rovnou nabídne pomoc:

„Dobrý den, tady Klára, AI asistentka. Hovor zaznamenávám, aby nic nezapadlo. S čím Vám mohu pomoci?“

Nevymlouvejte se, neomlouvejte a nedělejte z AI tajemství. Lidé to obvykle přijmou, když hned cítí, že je někdo poslouchá. Víc o tom, co do úvodu hovoru patří, najdete v článku Jak telefonovat se zákazníkem.

Když má AI volat ven: telemarketing

Přijímat hovory je jedna věc. Jakmile má asistentka sama volat lidem s nabídkou, přidávají se česká pravidla pro marketing.

Hovory: zákon o elektronických komunikacích

Paragraf 96 zákona č. 127/2005 Sb., ve znění novely č. 374/2021 Sb. účinné od 1. 1. 2022, přešel u marketingových hovorů na princip předchozího souhlasu. Volat s nabídkou lze podle výkladu Úřadu pro ochranu osobních údajů jen tomu, kdo ve veřejném telefonním seznamu uvedl, že o marketingové hovory stojí, nebo kdo Vám dal individuální souhlas. Úřad v něm uvádí i šestiměsíční přechodné období. Pro marketing přes automatické volací systémy bez lidského zásahu zákon vyžaduje předchozí souhlas. Dozor nad § 96 odst. 1 vykonává Český telekomunikační úřad.

SMS a e-maily: zákon o některých službách informační společnosti

Obchodní sdělení elektronickými prostředky upravuje § 7 zákona č. 480/2004 Sb. Kontakt lze k jejich šíření využít jen u lidí, kteří dali předchozí souhlas. Výjimkou jsou vlastní zákazníci, kterým smíte posílat nabídky vlastních obdobných výrobků nebo služeb, pokud mají v každé zprávě snadnou a bezplatnou možnost odmítnout další. Dozor vykonává Úřad pro ochranu osobních údajů.

Co to znamená v praxi

• Zavolat zpět člověku, který Vám volal s poptávkou, kvůli jeho dotazu znamená reagovat na jeho kontakt. Pokud ale přidáte nabídku něčeho jiného nebo voláte opakovaně bez jeho zájmu, přibližujete se pravidlům pro marketing.
• Aktivní volání leadům patří jen k lidem, kteří k tomu dali souhlas, například ve formuláři po webináři. V tarifu Klára Scaler je proto volání leadům nabízené výslovně „se souhlasem“.
• Souhlas si uchovejte tak, abyste ho uměli doložit.

Kontrolní seznam

• Asistentka v první větě řekne, že je AI.
• Volající, který s AI mluvit nechce, má jednoduchou možnost nechat vzkaz.
• Pokud se hovor nahrává, zazní to hned na začátku (GDPR).
• Odchozí marketingové hovory, SMS a e-maily jdou jen lidem se souhlasem nebo vlastním zákazníkům podle § 7 odst. 3 zákona č. 480/2004 Sb.
• Souhlasy máte doložitelné.