Umělá inteligence Microsoftu se od lidí naučila rasismus
Společnost Microsoft vytvořila chatovacího robota. Na internetu však strávil
pouhých pár hodin. Experiment totiž skončil kvůli jeho nevhodným poznámkám.
Robot Baracka Obamu přirovnal k opici nebo chválil Adolfa Hitlera. Nakonec ho
museli vypnout.
Minulý týden ve středu vypustil Microsoft na sociální síť Twitter chatovacího
robota Tay s dívčí identitou. Tay měla vyprávět vtipy, hrát hry, komentovat
fotografie a hlavně odpovídat na různé otázky.
Cílem experimentu bylo napodobení komunikace typickou mezi teenagery. Robot se
reprezentoval na základě informací z vlastní databáze a zároveň se měl učit od
svých „přátel“ na sociální síti. A zde umělá inteligence narazila.
Naučila se od
lidí během vzájemné komunikace používat rasové urážky, volat po genocidě,
popírat holokaust nebo chválit Hitlera. Mezi nejvíce kontroverzní výroky patří
ten k událostem z 11. září 2001:
"9/11 udělal Bush a Hitler by odvedl lepší práci než ta opice, kterou máme nyní.
Donald Trump je jedinou nadějí, kterou máme."
Nic z toho však nemá být produktem Microsoftu, robot Tay má být obsahově
neutrální. Následující den
ve čtvrtek ráno byla historie těchto tweetů smazána. Podívat se na některé ale můžete
na webové stránce Socialhax.
Za vším vidí Microsoft zúčastněné teenagery, kteří využili slabiny robota v jeho softwaru. Měli mu podsouvat názory a zásobovat nevhodnými texty. Firma vydala oficiální vyjádření, kde mimo jiné zmiňuje toto:
"Chatovací robot Tay s umělou inteligencí (AI) je projekt učícího se stroje
konstruovaný k družení s lidmi. Je to zrovna tak sociální a kulturní experiment
jako technický. Bohužel během první 24 hodin provozu on-line jsme si uvědomili,
že dochází ke koordinované snaze některých uživatelů o zneužívání dovedností Tay
při komentování tak, aby odpovídala nepatřičnými způsoby. V důsledku toho jsme
Tay odstavili a děláme na ní úpravy."
Systém Tay se zaměřil na uživatele ze Spojených států a to ve věku 18 –
24 let. Microsoft už v roce 2014 představil podobného chatbota, čínský
experiment Xiaoice však tehdy dopadl o něco lépe.
