You are currently viewing Deepfake a jeho nebezpečenstvá

Deepfake a jeho nebezpečenstvá

Umelá inteligencia (AI) spôsobila revolúciu v našom svete, vďaka ktorej sa mnohé procesy stali efektívnejšími a úlohy dostupnejšími. Okrem mnohých výhod však AI predstavuje aj vážne riziká, najmä pokiaľ ide o technológie, ako je deepfake.

Deepfake sú veľmi presvedčivé a realistické úpravy existujúcich médií, vytvorené algoritmami poháňanými umelou inteligenciou, ktoré manipulujú s obrázkami, videami alebo zvukom tak, aby napodobňovali skutočných ľudí. Viaceré aplikácie a softvéry dokážu napríklad vymeniť tváre na videách alebo fotografiách, animovať alebo meniť obrázky, napodobňovať hlasy s neuveriteľnou presnosťou alebo dokonca vytvárať úplne falošné scenáre, ktoré by sa laickému oku mohli aspoň na prvý pohľad zdať skutočné. Tieto výtvory sú poháňané modelmi strojového učenia (tzv. machine learning models), ktoré analyzujú obrovské množstvo údajov na replikovanie vzorov, hlasov a vizuálnych podnetov.

Hoci má táto technológia neuveriteľný potenciál na kreatívne a vzdelávacie využitie, nemožno prehliadať jej nebezpečenstvá. Technológia deepfake, ktorá sa pôvodne považovala za novinku v oblasti zábavy na vytváranie zábavného alebo exkluzívneho obsahu, sa vyvinula do škodlivých aplikácií ohrozujúcich súkromie, reputáciu, právne aspekty a spoločenskú dôveru.

Dezinformácie a hoaxy

Jedno z najznepokojujúcejších nebezpečenstiev deepfake spočíva v jeho schopnosti šíriť falošné informácie vydávaním sa za ľudí v rôznych situáciách. Falošné videá verejných činiteľov alebo bežných osôb, ktoré robia poburujúce vyhlásenia alebo sa zapájajú do nevhodného správania či kompromitujúcich situácií, sa môžu šíriť virálne a zasievať spory a zmätok v spoločnosti. Bezproblémový realizmus deepfakeov, ak sú dobre spracované, sťažuje divákom rozoznať skutočnosť od fikcie, čo môže ovplyvniť dôveru v legitímne zdroje informácií, zničiť reputáciu a pracovné príležitosti alebo dokonca viesť k ohováračským kampaniam, politickým konfliktom a obvineniam z trestných činov.

Kyberšikana a obťažovanie

Deepfake sa stal zbraňou na osobné útoky, najmä voči zraniteľným osobám, a to prostredníctvom falošných videí alebo obrázkov, ktoré sa dajú použiť na kyberšikanovanie, vydieranie alebo poškodenie dobrého mena. Obete majú často problém dokázať, že obsah je vymyslený, vzhľadom na jeho reálnosť, čo ich ponecháva bez možnosti odvolania sa a hlboko ovplyvňuje ich životy.

Finančné podvody

Napodobňovanie hlasu pomocou umelej inteligencie umožnilo zločincom vydávať sa v telefonátoch alebo zvukových správach za úrady, generálnych riaditeľov, zamestnancov, umelcov alebo blízkych a presvedčiť tak obete, aby previedli peniaze alebo prezradili citlivé informácie. Okrem toho sa dajú použiť na obchádzanie funkcií rozpoznávania tváre na získanie prístupu k určitým zariadeniam. Tieto schémy zneužívajú dôveru a môžu spôsobiť značné finančné škody.

Narušenie dôvery v média

Keďže je čoraz ťažšie odhaliť deepfake, spoločnosť môže začať pochybovať o pravosti všetkých médií a spochybňovať dôveryhodné zdroje, čo môže podkopať žurnalistiku, vedecké poznatky a dokonca aj osobnú komunikáciu a vytvoriť prostredie neustáleho skepticizmu a konšpiračných teórií.

 

Vzdelávanie v oblasti digitálnych zručností je prvou obrannou líniou proti hrozbám typu deepfake. Informovanosť o existencii takýchto technológií a ich schopnostiach je nevyhnutná na ich odhalenie a boj proti ich účinkom. Tu je niekoľko krokov na ochranu pred týmito nebezpečenstvami:

  • Overujte zdroje: vždy si dvakrát overte pôvod mediálneho obsahu, najmä ak vyvoláva silnú emocionálnu reakciu. S overením pravosti vám môžu pomôcť renomované spravodajské kanály a služby na overovanie faktov.
  • Analyzujte konzistentnosť: skontrolujte, či obsah, jeho zdroj a meta údaje spolu s typmi správania alebo požiadaviek zodpovedajú iným zdrojom alebo predchádzajúcemu obsahu od tej istej osoby alebo osôb, ktoré sú zobrazené.
  • Používajte nástroje na detekciu umelej inteligencie: vznikajú nástroje a softvéry na odhaľovanie deepfake, hoci táto technológia sa neustále preteká s tvorcami deepfake obsahov.
  • Podporujte digitálnu gramotnosť: výučba digitálnej gramotnosti, ako je napríklad pochopenie toho, ako sa médiá vytvárajú a manipulujú, a analýza varovných znakov zvukovej a vizuálnej manipulácie, pomáha jednotlivcom kriticky hodnotiť to, čo vidia a počujú online.

Projekt DigiCity poskytuje študentom vo veku 16-25 rokov zručnosti potrebné na zvládnutie digitálnych výziev, ako je napríklad deepfake, a to tak, že ich reálne využitie a dôsledky zobrazuje v pútavom a interaktívnom príbehu prostredníctvom videohry a únikovej hry. Prostredníctvom učenia založeného na hrách si účastníci rozvíjajú zručnosti kritického myslenia, aby dokázali identifikovať syntetický obsah a reagovať naň.

Podporou informovanosti a výučbou praktických stratégií DigiCity posilňuje generáciu zodpovedných digitálnych občanov, ktorí dokážu bojovať proti nebezpečenstvám zneužívania umelej inteligencie. Spoločne môžeme zabezpečiť, aby výhody technológií prevážili nad ich rizikami, a budovať bezpečnejší digitálny svet prostredníctvom vzdelávania informovaných a schopných digitálnych občanov!

 

Zdroj obrázku: towardsdatascience.com

Ďalšia literatúra: