top of page

Rizika spojená s umělou inteligencí pro seniory

Umělá inteligence (AI) se stává stále větší součástí našeho každodenního života, technologie, které využívají AI, se nacházejí v našich mobilních telefonech, počítačích, internetových vyhledávačích, sociálních sítích, a dokonce i v domácích spotřebičích. S produkty umělé inteligence – články, obrázky, fotografiemi či videi – se stále častěji setkáváme také v prostředí internetu.



Bohužel umělá inteligence dokáže vytvářet obsah, který pro nás může být nebezpečný, např. tzv. deepfake videa, která nás mohou zmást a přimět k ukvapené reakci (např. investování velkého množství peněz pod vidinou zázračného zbohatnutí, které nám slíbila známá osobnost). Jedinou obranou před těmito riziky je pak především trvalé zvyšování mediální gramotnosti uživatelů internetu – a to jak mladé generace, tak i generace dříve narozených. A právě na ty se zaměřuje publikace, která právě vychází.

 

Projekt E-Bezpečí Pedagogické fakulty Univerzity Palackého v Olomouci ve spolupráci s CEDMO (Středoevropskou observatoří digitálních médií) při Univerzitě Karlově právě vydává tematickou příručku Rizika spojená s umělou inteligencí pro seniory.

 

Příručka nabízí komplexní pohled na umělou inteligenci, její využití a potenciální rizika. Vysvětluje základní pojmy a principy fungování AI, popisuje její pozitiva a praktické přínosy v každodenním životě, například ve zdravotnictví, vzdělávání nebo zábavě. Upozorňuje také na možná nebezpečí, jako jsou internetové podvody, šíření dezinformací, deepfake videa a narušení soukromí.

 

Příručka nabízí komplexní pohled na umělou inteligenci, její využití a potenciální rizika. Vysvětluje základní pojmy a principy fungování AI, popisuje její pozitiva a praktické přínosy v každodenním životě a zároveň upozorňuje na možná nebezpečí.

 

„Virtuální svět posledních let je doslova prorostlý nebezpečným obsahem, ke kterému patří např. různé druhy online podvodů, které zneužívají umělou inteligenci,“ komentuje publikaci její hlavní autor Kamil Kopecký z Pedagogické fakulty Univerzity Palackého v Olomouci a pokračuje: „Tisíce lidí přicházejí o své úspory, protože je investují do „zaručeně fungujících investičních produktů, ve kterých k nim promlouvá prostřednictvím deepfake videí známá osobnost (třeba prezident, expremiér, známý herec či zpěvák) a slibuje jim snadné zbohatnutí. Je to však jen podvod, fikce, výsledkem jsou obrovské finanční ztráty. Jedinou cestou, jak se stát před těmito riziky odolnými, je systematické vzdělávání a zvyšování mediální gramotnosti obyvatel. A právě na to je naše nová publikace zacílena.“

 

Anja Grabovac, projektová manažerka CEDMO, jej doplňuje: „Nástroje generativní umělé intelegence převážná většina české společnosti zatím nevyužívá. Z výsledků našeho průzkumu CEDMO Trends vyplývá, že tři čtvrtiny české populace starší 16 let nástroje generativní umělé inteligence nepoužívají vůbec. Zároveň víme, že existují velké diskrepance mezi věkovými skupinami; zatímco v případě mladších ročníků deklaruje pouze třetina respondentů nulové využívání nástrojů generativní umělé inteligence, ve věkové skupině nad 65 let se jedná až o 94 % respondentů. Obdobné rozdíly jsme zaznamenali i v případě zjišťování znalosti fenoménu deepfake videí, kdy pouze necelá třetina respondentů starší 65 let dokázala z nabízených odpovědí správně určit co je deepfake – tedy, že se jedná o zdánlivě reálný umělou inteligencí vytvořený obraz, video nebo zvuk něčeho, co se nezakládá na pravdě. Průzkum také poukazuje na velké rozdíly mezi povědomím o tom, co je deepfake mezi ženami a muži, kdy polovina dotázaných mužů odpověděla správně, zatímco u žen to bylo 32 %.“



Kromě deepfake videí a online podvodů se příručka věnuje také problematice deepnudes, tedy tzv. svlékacích aplikací, které jsou vysoce nebezpečným trendem – umělá inteligence integrovaná do webových či mobilních aplikací umožňuje komukoli vygenerovat z běžné fotografie fotografii obnaženou. Ta pak může být zneužita např. k vydírání, vyhrožování apod.

 

Příručka také poskytuje praktické rady a doporučení, jak se chránit před zneužitím AI, a přináší přehled užitečných aplikací a nástrojů pro bezpečné využívání této technologie. V závěru nabízí kontakty na organizace, které mohou poskytnout pomoc v případě potíží.

 

Příručka je zdarma ke stažení níže na webech E-Bezpečí a CEDMO (vychází také v omezeném nákladu v tištěné podobě).


E-Bezpečí

Comments


bottom of page