Co když AI trénujeme celou dobu špatně?

Sdílet
Jak měříme a rozvíjíme kognitivní schopnosti – a jak to ovlivňuje trénink umělé inteligence? Nová studie přináší překvapivé zjištění, že důležité schopnosti, které považujeme za univerzální, mohou být silně ovlivněné školním prostředím. To má zásadní dopady i pro to, jak bychom měli přistupovat k vývoji AI systémů.
Co když AI trénujeme celou dobu špatně

Kognitivní schopnosti nejsou jen vrozené, ale hodně formované školou

Často si myslíme, že určité schopnosti našeho myšlení a chování máme od narození a že fungují stejně u všech lidí. Mezi tyto schopnosti patří například plánování, sebeřízení nebo schopnost organizovat si své úkoly. Tyto schopnosti nám pomáhají zvládat složité situace a rozhodovat se.

Nová výzkumná studie ukázala, že způsob, jakým tyto schopnosti měříme, je hodně ovlivněný tím, zda děti chodily do školy a jaké mají kulturní zázemí. V místě, kde část dětí školu navštěvovala a část ne, například v odlehlých oblastech Afriky a v Bolívii, se ukázalo, že školou prošlé děti dosahovaly v testech plánování a sebeřízení podobných výsledků jako děti ze západních zemí. Děti bez školního vzdělání měly v těchto testech podstatně horší výsledky.

Testy, které používáme, hodnotí spíše školní dovednosti než univerzální schopnosti

Běžné testy, kterými měříme tyto kognitivní schopnosti, často vyžadují, aby si dítě zapamatovalo nesouvisející slova nebo řešilo abstraktní problémy běžné právě ve školním prostředí. Dítě z prostředí, kde je důležitější například rozpoznat různé krávy a sledovat rodinné vztahy, proto může v těchto testech obstát velmi špatně. Ne proto, že by bylo „méně chytré“, ale protože se tyto úkoly liší od jeho každodenního života.

Naopak, pokud jim vědci nabídli úkoly přizpůsobené místním podmínkám, jako bylo právě rozpoznání a zapamatování si informací o dobytku, tyto děti uspěly mnohem lépe než děti z městských škol v západních zemích. To potvrzuje, že schopnosti sebeřízení a organizace nejsou pouze vrozené, ale hlavně se učí v konkrétním prostředí.

Co to znamená pro vývoj a trénink AI?

Stejný princip platí i pro umělou inteligenci. Pokud ji trénujeme na datech a úlohách, které odpovídají pouze určité kulturní nebo školní zkušenosti, může se stát, že AI nebude správně fungovat jinde. Může například nesprávně odhadovat situace nebo být „nekompetentní“ v prostředích, které nejsou podobné těm, na kterých byla naučená.

Proto je důležité, aby tvůrci AI i manažeři, kteří technologie nasazují, přemýšleli o tom, co vlastně AI učí a jak ji testují. Není vhodné spoléhat se jen na úlohy známé z jednoho prostředí, protože takové testování může zkreslovat skutečné schopnosti AI a vést ke špatným závěrům.


Zdroj: Phys.org

Zůstaňte v obraze s AI novinkami

Přihlaste se k odběru mého newsletteru a získejte nejnovější tipy, triky a novinky ze světa umělé inteligence přímo do vaší schránky. Žádný spam, pouze hodnotný obsah.

Týdenní přehled novinek

Exkluzivní návody

Slevy na workshopy

Name(Required)
Privacy(Required)

Odesláním souhlasíte se zpracováním osobních údajů. Odhlásit se můžete kdykoliv.

Další články

Další zajímavé články, které by vás mohly zajímat

Skutečnou hodnotu umělé inteligence nenajdete v modelech ale v jejích konkrétních dovednostech.

Poslední roky jsme všichni fascinovaně sledovali, jak AI modely rostou a stávají se chytřejšími. Teď se ale pozornost přesouvá jinam a možná vás překvapí, že to není k autonomním agentům. Klíčem k praktickému využití ve...

Akt EU o umělé inteligenci: Schváleno! Co to pro nás znamená?

Po dlouhém čekání byl konečně schválen Akt o umělé inteligenci (AI Act), čímž se Evropská unie stává průkopníkem v regulaci této dynamicky se rozvíjející technologie. Ale co to pro nás vlastně znamená? V tomto blogovém...

10+1 AI trendů pro rok 2026: Praktický průvodce pro české firmy

Rok 2025 byl rokem experimentů s ChatGPT a pilotních projektů. Rok 2026? To bude rok tvrdé pravdy. Gartner varuje, že 60% organizací nedokáže vytěžit hodnotu z AI kvůli chaotickému přístupu. Zatímco jedni ještě stále schvalují...