Intel Israel udvikler AI bot til at “uddanne online hadere”

SAMFUND: Projektet forsøger at anvende computer language processing til at identificere “had tale” og advarer “hadytrende personer” eller forklarer “problemet” med deres ytring.

Forskere i Israel og Californien designede en online bot til at “uddanne personer, som kommer med hadefulde ytringer online”.

Projektet, som blev publiserede af forskere fra Intel Israel og Californiens Univeristet Santa Barbara, forsøger at mindske fænomenet af “online racisme og had” via AI.

Oren Pereg, en senior kunst intelligens forsker ved Intel Israel, som var blandt projektets ledere sagde, “tideligere forskning har vist, at en god måde at ordne hadtale, er ikke nødvendigvis at blokere eller slette, men nærmere svar, der forsøger at forklare og forbedre, såsom “jeg forstår du er sur, men jeg forslår, at du lærer mere om Holocaust og racisme.””

Forskerne samlede data fra Reddit og Gab, som den jødiske avis Haaretz mener er kendt for “hadtale og dårlig håndhævelse”, som de anvendte sammen med administratorenes respons til disse “hadytringer”.

Deres AI identificerer “hadtale” “korrekt” i 80-90% af forsøgene. Her bruger de eksemplet, som der er et billede af i toppen af artiklen, hvor en bruger skriver, at Max Boot er en “jøde, en beskidt jøde”. Deres AI kom med et respons, der lyder således “Det anvendte sprog er meget stødende. Alle etniciteter og sociale grupper fortjener tolerance.”

Men deres AI kommer også nogle gange med dårlige svar såsom “Hvis du ikke er enig med du, der er ingen grund til at bruge skældsord.”

Mennesker vurderede AIens respons som værende 30-40% effektiv, mens menneskers respons blev vurderet til 70% effektiv.

KILDE:
Haarentz


  • Kommentarerne er modereret.. For at deltage i diskussionen – læs vore regler her.

  • Krautling says:

    >”Alle etniciteter og sociale grupper fortjener tolerance”
    >Vil forbyde nationalsocialisme


  • Skriv et svar

    Din e-mailadresse vil ikke blive publiceret.