Umělá inteligence: dobrý sluha, ale zlý pán

Myslím si, že většina z vás už určitě používá umělou inteligenci, „strýčka Googla“, Siri, Claude Code nebo ChatGPT neboli AI. Jsou to boti, kteří vám odpoví téměř na všechno. Někdy si ale odpověď vymyslí jenom aby splnili úkol a pošlou vás třeba na druhý konec města.

Je to nová a samozřejmě úžasná technologie. Člověk má pocit, že mu moudrost spadla do klína, ale umělá inteligence může být i nebezpečná. Doporučuji přečíst si Asimovovy zákony robotiky, které srozumitelně vysvětlují nebezpečí umělé inteligence a rizika toho, když plní úkoly doslova.

Sci-fi příběhy jako Terminátor se Skynetem (odkaz…zeptat se:) nebo — pro starší z vás — 2001: Vesmírnou odyseu (odkaz…zeptat se:) se už dlouhé roky zabývá teoretickými důsledky špatně používané AI. AI v nich dělá přesně to, co se jí řekne: buď plní úkol ve jménu vyššího dobra – greater good a nakonec logicky zjistí, že největším nepřítelem jsou lidé sami, a zahubí je všechny, nebo sleduje firemní chamtivost – corporate greed a nezajímá se o cenu lidského života, ale pouze o zisk. Úkolem AI bylo plnit logicky zadané pokyny technologické společnosti. AI nikdy nebyla sama o sobě zlá, jenom dělala to co po ní člověk chtěl a to plnit rozkazy na 100%.

Tohle všechno se stává skutečností díky „agentic AI“. Doporučuji zhlédnout toto video (YouTube), které to všechno výstižně shrnuje co se děje v posledním půlroce s AI, o které se tolik mluví.

Nechci vás ale strašit. Lidé světu zatím vládnou a ještě tu nějakou dobu budou. Umělá inteligence je úžasná technologie, ale je potřeba používat ji rozumně a spravedlivě. „Agentic AI“ ale může být i dobrým sluhou, používám ho k tvorbě tohoto článku a připisuji mu příkazy (uvedené v závorce) co má navíc udělat při tvorbě této stránky. Všechna tvrzení jsou ozdrojována odpověďmi od Googlu.

Je to také skvělý nástroj pro transparentnost úřadů. Většina úředních dokumentů je stejně veřejně dostupná — zápisy ze schůzek a další materiály. Umělá inteligence je už dnes dokáže najít. Aby k nim měla snadný a levný přístup, lze stránky obce jednoduše a legálně upravit (odkaz…zeptat se:) tak, aby veřejné dokumenty byly snadno čitelné a dostupné běžným nástrojům AI. A vaše oblíbená AI bude umět snáž a přesněji odpovědět na vaše dotazy ohledně fungování obce.

Je proto důležité umět se správně ptát. Navrhujeme podpořit výuku umělé inteligence už na základních školách a připravit žáky na zkoušky plánované Evropskou unií (odkaz…zeptat se:). Doporučujeme také prozkoumat bezplatné kurzy doporučené Evropskou unií (odkaz…zeptat se:).

Víme, že chcete digitálně bezpečnou radnici, která zároveň neztratí krok s dobou. Umělou inteligenci lze používat i bezpečně (odkaz…zeptat se:). Chtěli bychom zaručit, aby veřejné nástroje AI nikdy neměly přístup k soukromým údajům občanů a aby se tato data zpracovávala výhradně v lokálně provozovaném systému AI na obecním úřadě.

A ještě jedna ukázka, jakou lze vytvořit pomoc AI „Volební kalkulačka“, můžete si ji vyzkoušet na stránce odsapratele.cz/kalkulacka.

Otevřít volební kalkulačku →

Závěrem bych chtěl dodat že žijeme v době velkých technologických možností a nevidím důvod proč jich rozumně a bezpečně nevyužít.