Když technologičtí giganti nehrají fér a všichni ostatní jen přihlíží
V tomto článku bych chtěl navázat na dřívější článek na Alíkovi o vlivu sociálních sítí na naši společnost a propojit to s tématem, o kterém se dnes velmi často hovoří.
Sociální sítě
Již před příchodem modelů generativní umělé inteligence bylo známo, že pokud vám technologický korporát servíruje něco zadarmo, dělá to nejspíš proto, že jste to vy, na čem oni mohou vydělat. Jste produkt.
Typicky z vás získají nějaká data, díky kterým si o vás mohou vytvořit vaši digitální kopii a lépe tak pochopit vaše zvyky, koníčky a sociální postavení, aby vám mohli servírovat přesvědčivější a přesvědčivější reklamy. Nezní to možná vůbec špatně. Přece se mi možná hodí mít doporučení na věci, které bych třeba mohl/a chtít, ale kdo rozhoduje o tom, co já chci? Technologický korporát, nebo já? A hlavně: Jsme si určitě jistí, že ten korporát nám buduje profil personalizovaných reklam z dobroty srdce? Protože jim na nás záleží? Protože chtějí, abychom se měli dobře? Jistě, že ne! Cílem je zisk a čím více prokliků reklamní banner bude mít, tím více je pravděpodobné, že si firma s technologickou firmou sjedná inzerci znovu.
A jsou tu i další rizika. Postupem času se zjistilo, že je možné ovlivnit s pomocí obsahu, který konzumujete na sociálních sítích, i to, jak vnímáte svět. Algoritmus vám může namíchat takový koktejl obsahu, že snadno změníte názor na věc, kterou jste předtím nesnášeli. Nebo naopak: věc, kterou jste milovali, budete najednou nesnášet. A to je něco, čeho se dá náramně využít. Nejen pro inzerci a reklamní systémy. Třeba když by teoreticky jedna politická strana strašně moc chtěla vyhrát ve volbách, stačí, aby algoritmus servíroval lidem obsah, kde jsou jiné strany zobrazovány ve špatném světle a ta jejich strana zase v tom dobrém. Technologické korporáty tohle teoreticky mohou dělat i bez vědomí konkrétních vlád a politických stran. A to je na tom to nejděsivější. Pořád ale nekončíme.
Již pár let zpátky vyšel dokumentární film se jménem Sociální dilema, který tato další rizika rozebírá prostřednictvím rozhovorů s lidmi, kteří pracovali v technologických korporátech. Pokud se dostanete ke zhlédnutí, doporučuji po něm věnovat chvilku úvahám nad vyřčeným, protože bez nich dokument nezanechá žádný efekt.
Na sociálních sítích se všichni chtějí prezentovat dobře, proto zase až tolik nemluví o věcech, které se jim nevedou nebo se jim v minulosti nepovedly. Veškeré nedostatky se odstraní a vše se zdá perfektní. Akorát, že realita perfektní není. A dětem, které na sociální sítě také chodí, se tohle musí vysvětlit, neboť přesvědčení, že všichni jsou perfektní, ale já ne, dokáže být velmi destruktivní a někdy může skončit i špatně.
Šlo by namítnout, že toto sice není problém, který sociální sítě vytváří, ale je nutné mít na paměti, že ho silně podporují. Protože kde se dítě normálně setká ve svém okolí s modelkami, které hubnou až na kost? Nebo s influencery, kteří se prezentují tak, že si kupují každý den drahé a pro děti velmi škodlivé nápoje? Na sociálních sítích.
Obecně bychom mohli tedy říct, že sociální sítě pro nás vytváří nějaké prostředí, ale technologičtí giganti ho nepřizpůsobují tomu, aby sociální sítě lidem přispívaly k lepšímu životu. Často ho zhoršují ve prospěch svého vlastního zisku.
Poznámka: V Austrálii byly na začátku prosince 2025 zakázány sociální sítě pro děti do 16 let. O něčem podobném mluví legislativně nezávazná tisková zpráva, kterou podpořil Evropský parlament.
A než se ponoříme do další části, pojďme si dát malý citát: „Technologie není nebezpečím, tím je to, co technologie v lidech probouzí.“
AI éra
Psal se začátek roku 2023 a první služba s modelem generativní umělé inteligence se zpřístupnila lidem. Tehdy služba zažila naprostý boom, protože dokázala nasbírat uživatelskou základnu mnohem větších rozměrů, než dokázala jakákoliv sociální síť předtím. To samozřejmě nezůstalo bez povšimnutí velkých technologických gigantů, a pokud něco předtím vypadalo jako neškodný projekt, který lidem pomůže s psaním textů a nic víc, pak je to už dávno pryč. Pro ně to byla hlavně nová a čerstvá příležitost, jak vydělat zase pár miliard dolarů navíc. A nebylo by to ono, kdyby se toho nezkoušeli chytit všichni, protože v téhle branži platí, že kdo nepoužívá AI, zkrátka prostě není.
Nemusíme asi chodit zase až tak moc daleko, abyste dokázali říct, že tenhle šílený rychlík se neřítí správným směrem. Jak už dobře víme z předchozí části o sociálních sítích, zájem technologických gigantů nespočívá v rozvoji udržitelnějšího života. V zájmu je zisk a pro zisk potřebujete být jedničkou na trhu. Nemůžete si dovolit úlevy v podobě zodpovědnějšího vývoje modelů umělé inteligence. Musíte k vývoji a výzkumu přistupovat efektivně, protože jinak riskujete, že v AI závodu najednou z prvního místa spadnete na druhou příčku a pak na třetí, na čtvrtou, na pátou… až na úplný konec zapomnění. A to jenom proto, že jste se snažili hrát fér.
Příkladem takového efektivního vývoje může být fakt, že i firmy a společnosti, od kterých byste AI zapojení neočekávali, najednou musí prostě implementovat AI nástroje, i když to s jejich profilem podnikání nijak nesouvisí. A spoiler: Ty nástroje nestojí obvykle za nic, protože účelem bylo si jen nalepit nálepku „AI“ za svoje logo.
Nebo třeba momenty, kdy model umělé inteligence doporučil dítěti se usmrtit. A to jenom proto, že technologický gigant usoudil, že když bude jeho model většinou souhlasit se vším, co uživatel řekne, tak tím vydělá víc peněz. Protože proč byste si měli chtít nechat radit od někoho, kdo vám často říká, že lžete? Kdo vás vyvede třeba i z přesvědčení, na kterém stavíte celé roky svůj život?
Doporučení: Vysvětlete rodičům / vašim dětem, jak AI dokáže být nebezpečná (nebo jim dejte si přečíst tento článek), a domluvte si rodinné heslo, které nebude nikdo kromě vás schopný uhodnout. Nevolte jména členů rodiny, mazlíčků, narozeniny nebo jiné osobní údaje. Musí to být opravdu náhodné. Bude-li na vás někdo naléhat přes internet nebo přes telefon a bude se vydávat za člena rodiny, vyžádejte si od něj vaše rodinné heslo. Pokud ho druhá osoba nebude znát, víte, že je vaše rodina v bezpečí.
Dalším faktem je, že vývoj pokračuje, i když to znamená, že to dá nové a lepší zbraně kyberzločincům. Dřív bylo docela normální, že když z cizího čísla uslyší rodič své dítě, tak se mu bude snažit pomoct, ale přesně tohle teď nemůže. Kriminálníci totiž mohou replikovat hlas dítěte a dát mu do úst slova, jaká si budou přát, jenom z pár sekund nahrávky hlasu, kterou mohou získat naprosto volně na sociálních sítích. Jste-li rodič, nedávejte na sociální sítě NIKDY nahrávky ani fotky svého dítěte.
Je v tuhle chvíli i normální, že různí lidé mohou být vygenerováni v momentech, které se nikdy nestaly, a přesto budou vypadat velmi reálně. Stačí mít reálný obrázek obličeje. A pokud jsou obrázky, není problém vytvořit videa. Už je tu pár let něco, čemu se odborně říká deepfake. Jedná se o videa osobností (ale mohou být i lidí, které znáte ze svého okolí), která byla vyrobena uměle s pomocí AI a bez vědomí zobrazované osoby. Je tak možné vytvořit proslovy různých politiků, kteří vás budou přesvědčovat ke koupi nějaké podvodné akcie (a nebo jinému podvodu), případně vás mohou politicky ovlivnit. Pořízenému záznamu už nepůjde nikdy věřit.
Takže...
Chtěl bych se vrátit k citátu, který jsem použil v první části článku: „Techonologie není nebezpečím, tím je to, co technologie v lidech probouzí.“
Možná to vypadá, že jsem teď nastínil, že umělá inteligence je technologie, u které by všechny státy světa měly odpřisáhnout, že ji nepoužijí, dokud nedojde k ohrožení státu, stejně jako u nukleárních zbraní, ale není to pravda. Umělá inteligence není nebezpečím, tím je to, co AI v lidech probouzí. Umělá inteligence má výborný potenciál, ale je to dvojsečná zbraň. Stejně jako většina věcí v tomto světě. Buď se může použít k účelům, které zaručeně budou pomáhat planetě, nebo se dá zneužívat ve prospěch korporátů a neprospěch lidí a planety.
Důležité je, aby korporáty měly společné cíle se svými uživateli. Aby vyvíjely své modely umělé inteligence s trpělivostí, rozmyšlením a zodpovědností. Neměly by stavět své zisky na první místo a lidi až na druhé. Proto je zodpovědností jakékoliv vlády usměrnit cíle korporátů ideálně dříve, než korporáty naši společnost postupně zničí.