Projekt E-Bezpečí Pedagogické fakulty Univerzity Palackého ve spolupráci s CEDMO (Středoevropskou observatoří digitálních médií) při Univerzitě Karlově vydal příručku s názvem Rizika spojená s umělou inteligencí pro seniory. Publikace nabízí seniorům komplexní pohled na umělou inteligenci, její využití a potenciální rizika.
Umělá inteligence (Al) se stává sále větší součástí našeho každodenního života. Technologie, které využívají Al, se nacházejí v mobilních telefonech, počítačích, internetových vyhledávačích, sociálních sítích, a dokonce i v domácích spotřebičích. S produkty umělé inteligence, články, obrázky, fotografiemi či videi se lze stále častěji setkat i v prostředí internetu.
„Umělá inteligence však dokáže vytvářet i obsah, který může být nebezpečný. Příkladem jsou takzvané deepfake videa, která nás mohou zmást a přimět k ukvapené reakci, například k investování velkého množství peněz pod vidinou zázračného zbohatnutí. Jedinou obranou před těmito riziky je trvalé zvyšování mediální gramotnosti uživatelů internetu, a to jak mladé generace, tak i generace dříve narozených. Právě na tu jsme zaměřili nově vydanou příručku,“ uvedl její hlavní autor Kamil Kopecký, vedoucí Centra prevence rizikové virtuální komunikace PdF UP.
Příručka čtenáři nabízí vysvětlení základních pojmů a principů fungování Al. Seznámí jej jak s pozitivy a praktickými přínosy v každodenním životě, například ve zdravotnictví, vzdělávání nebo zábavě, tak s možným nebezpečím, které spočívá v internetových podvodech, šíření dezinformací, deepfafe videí a narušení soukromí.
„Virtuální svět je v posledních letech prorostlý nebezpečným obsahem, k němuž patří například různé druhy podvodů zneužívajících umělou inteligenci. Tisíce lidí přicházejí o své úspory, protože investují do takzvaně zaručených fungujících investičních produktů, ve kterých k nim promlouvá prostřednictvím deepfake videí známá osobnost a slibuje jim snadné zbohatnutí. Jedinou cestou, jak se před těmito riziky stát odolnými je systematické vzdělávání,“ doplnil Kamil Kopecký k nově vydané příručce, jenž seniorům poskytuje i praktické rady a doporučení, jak se před zneužitím Al chránit a která jim přináší přehled užitečných aplikací a nástrojů pro bezpečné využívání této technologie.
Příručka Rizika spojená s umělou inteligencí pro seniory se věnuje i problematice deepnudes, tedy takzvaným svlékacím aplikacím, jež jsou vysoce nebezpečným trendem. Umělá inteligence je v tomto případě integrovaná do webových či mobilních aplikací a umožňuje komukoli vygenerovat z běžné fotografe fotografii obnaženou. Ta pak může být zneužita například k vydírání, vyhrožování apod.
V samém závěru publikace, kterou lze zdarma stáhnout na webech E-Bezpečí a CEDMO, nabízí její autoři i kontakty na organizace, které mohou poskytnout pomoc v případě potíží. V omezeném nákladu vychází uvedená publikace i v tištěné podobě, dostupná bude na fakultních akcích zaměřených na seniory. V brzké době se její autoři chystají vydat v online podobě i příručku pro učitele a veřejnost.
Z výsledků průzkumu CEDMO:
Anja Grabovac, projektová manažerka CEDMO: „Převážná většina české společnosti zatím nástroje generativní umělé inteligence nevyužívá. Z našeho výzkumu CEDMO Trend vyplývá, že tři čtvrtiny české populace starší šestnácti let nástroje generativní umělé inteligence nepoužívají vůbec. Zároveň víme, že existují velké rozdíly mezi věkovými skupinami. Zatímco v případě mladších ročníků deklaruje pouze třetina respondentů nulové využívání nástrojů generativní umělé inteligence, ve věkové skupině nad šedesát pět let se jedná až o devadesát čtyři procent respondentů. Obdobné rozdíly jsme zaznamenali i v případě zjišťování znalosti fenoménu deepfake videí, kdy pouze necelá třetina respondentů starší pětašedesáti let dokázala z nabízených odpovědí správně určit co je deepfake. Průzkum také ukázal na velké rozdíly mezi povědomím o tom, co je deepfake mezi ženami a muži, kdy polovina dotázaných mužů odpověděla správně, zatímco u žen to bylo třicet dva procent.“