Microsofts "Tay" wird rassistisch und leugnet Holocaust

[Turmfalke]

Selbständiger Chatbot leugnet Holocaust

Ein Projekt zum Thema künstliche Intelligenz von Microsoft ging ordentlich schief. Der Twitter-Account des Chatbots "Tay" musste kurz nach dem Start wegen rassistischer Bemerkungen abgestellt werden.

Das am Mittwoch eingeschaltete Programm mit dem Namen „Tay“ sollte mit Hilfe einfacher Antwort-Algorithmen über Twitter den Anschein einer Konversation mit Menschen aufrechterhalten, aber auch aus Unterhaltungen lernen. Nutzer brachten „Tay“ unter anderem dazu, Adolf Hitler zu preisen, den Holocaust zu verneinen und Schwarze zu beleidigen.

http://www.tagesspiegel.de/weltspieg.../13367828.html

[dietmar]

Ein Chatbot-Programm Namens „Tay“ sollte sich in Sozialen Netzwerken mit Nutzern unterhalten. Doch das Experiment wurde für die Entwickler von Microsoft nach wenigen Stunden zum Debakel. „Tay“ beleidigte Afro-Amerikaner und FeministInnen und lobte Adolf Hitler.

Microsoft hat eine Chatbot-Software nach kurzer Zeit von Netz nehmen müssen, nachdem Nutzer sie durch Tricks massenhaft zu rassistischen Entgleisungen verleiten konnten. Das am Mittwoch eingeschaltete Programm mit dem Namen „Tay“ sollte mit Hilfe einfacher Antwort-Algorithmen über Twitter den Anschein einer Konversation mit Menschen aufrechterhalten, aber auch aus Unterhaltungen lernen. Nutzer brachten „Tay“ unter anderem dazu, Adolf Hitler zu preisen, den Holocaust zu verneinen und Schwarze zu beleidigen.

Ein Großteil dieser Tweets wurde später gelöscht. Nach einigen Stunden verkündete die Maschine über ihren Twitter-Account „@TayandYou“, sie müsse nach so vielen Gesprächen schlafen und ging vom Netz. Microsoft erklärte, bei „Tay“ würden „einige Anpassungen“ gemacht. Während die Software lerne, seien einige ihrer Antworten unangemessen und spiegelten die Äußerungen der Menschen wider, die mit ihr interagierten.

http://deutsche-wirtschafts-nachrich...d-fuer-hitler/

[Cherusker]

Maschinen sind grundsätzlich dumm; sie tun nur das, wozu man sie beauftragt hat. Auch „intelligente Systeme” können nicht mehr als das, was man an Möglichkeiten in sie hineingelegt hat. Ihr „Lernen” ist programmiert, während die meisten Menschen auch „intuitiv” handeln können.