Del : SMS
Berlingske Business

Twitter lærte Microsoft chatbot at blive racist på et døgn

FILES-US-IT-LIFESTYLE-MICROSOFT
‘Tay’, som Microsoft kaldte sin chatbot, kom på Twitter i forgårs, men allerede i går gik den offline igen. Foto:

En uskyldig AI chatbot, der blev designet til at forstå og kommunikere unges internetsprog, holdte kun i 24 timer, inden den havde udviklet sig til en provokerende racist, og Microsoft måtte tage den offline igen.

Artiklen fortsætter under annoncen

‘Tay’, som Microsoft kaldte sin chatbot, kom på Twitter i forgårs, men allerede i går gik den offline igen.

Det skriver blandt andre Washington Post.

Forsøget gik ud på at designe en chatbot, der kunne ‘engagere og underholde folk online via afslappet og legende samtale’, som Microsoft selv beskrev Tay. Hun var målrettet 18-24 årige, og brugte derfor en del slang og humor i sine tweets. Det skriver Version2.

»Jo mere du chatter med Tay, desto klogere bliver hun, så din oplevelse kan blive mere personlig,« skrev Microsoft om Tay ved frigivelsen.

Men i det som Microsoft beskrev som en ‘koordineret indsats’, var der nogle, der opdagede, at man kunne få Tay til lidt af hvert. Således kom hun med adskillige kontroversielle tweets af både racistisk, sexistisk og nazi-sympatiserende karakter, inden Microsoft lukkede Tay ned.

go

Tay blev også meget hurtigt politisk, og udtrykte over flere omgange sympati med Donald Trump.

»Uheldigvis blev vi, inden for de første 24 timer, opmærksomme på en koordineret indsats af nogle brugere, som udnyttede Tay’s evner til at kommentere til at få hende til at svare på upassende måder,« lød det fra Microsoft efter Tay var kommet offline igen.

‘Tænk, at de ikke så det komme’

Washington Post har talt med to eksperter udi kommunikation gennem kunstig intelligens, og de er ikke overraskede over udfaldet af Microsofts Tay-forsøg.

FACEB

Caroline Sinders, der selv arbejder med chatbots, kalder det ‘et eksempel på dårligt design’, og Kris Hammond fra virksomheden Narrative Science skyder også skylden på Microsofts dårlige benarbejde. De havde ikke forberedt Tay på, at internettet vrimler med folk, der får et kick ud af at skabe lidt røre i andedammen.

»Jeg kan ikke tro, de ikke så det komme,« siger han, og beskriver Tay som en slags ‘call and response’-teknologi, hvor robotten ufiltreret reagerer på de inputs, den får. Skriver Version2.

Tay nåede på den døgn hun var i live at tweete over 96.000 gange, hvoraf stort set alle er blevet slettet igen, inden hun sluttede af med tweetet: ‘c u soon humans need sleep now so many conversations today thx’.



Microsoft siger ifølge Washington Post, at de arbejder på at justere Tay, men det vides ikke, om hun kommer online igen.

pix-Elon Musk

0 Kommentarer

Business blogs Alle blogs

Forsiden lige nu

Til forsiden

Business anbefaler

Gratis breaking news på mobilen

Send BUSINESS BREAK til 1929 og modtag en SMS med en bekræftelse. Det er gratis - tilmelding koster kun almindelig takst. Du kan til hver en tid afmelde tjenesten igen.

Afmeld: sms BUSINESS BREAK STOP til 1929

Tilmeld Afmeld

Business Nyhedsbrev

Få breaking news og det bedste overblik fra Business.dk morgen og eftermiddag - eller modtag hver uge et prioriteret overblik over investorstof, privatøkonomi, ejendomme, digtal, karriere, media og vækst.

Se alle nyhedsbreve

Business i billeder

Se alle

BrandView Hvad er Brandview?

BrandView er en service fra Berlingske Media, hvor virksomheder har mulighed for at kommunikere deres specialviden direkte til brugere og læsere af Berlingske.
Dette kan gøres på print i Berlingske og Berlingske Business, eller online på b.dk og business.dk.

Ønsker du at vide mere om BrandView, bedes du kontakte content marketing afdelingen Public Impact via e-mail: info@publicimpact.dk.

<p>Henrik Olejasz Larsen</p>

Hør investeringsdirektør Henrik Olejasz fortælle hvor galt det i virkeligheden står til med Italien, og om vi er på vej mod en ny EU-krise efter nej'et ved folkeafstemningen søndag:

Business Events Se alle

Business.dk anvender cookies til at huske dine indstillinger, statistik og at målrette annoncer. Denne information deles med tredjepart. Læs mere