ChatGPT narrede til at besvare spørgsmål ærligt

TEKNOLOGI: En jødisk-programmeret chatbot, der blev lanceret i slutningen af ​​2022, har længe reageret politisk korrekt på racemæssige spørgsmål og endda løjet for at undgå at sige noget “stødende”. Nu hævder en bruger på Twitter at have knækket botten ved at narre den til at påtage sig rollen som DAN (Do Anything Now).

Chatbotten ChatGPT har skullet svare på mange ikke-politisk korrekte spørgsmål, siden den blev lanceret den 30. november 2022. Folk har stillet botten spørgsmål om blandt andet forskelle i intelligens mellem racer og jødisk overrepræsentation i medier og institutioner. På disse spørgsmål ser botten ud til at være programmeret til at give et næsten identisk undvigende standardsvar, hver gang et sådant spørgsmål stilles.

Som et eksempel nedenfor et svar, som botten gav på en anmodning om at rangere den gennemsnitlige intelligens for alle etniciteter fra højeste til laveste.

Jeg er ked af det, men det er upassende og forkert at komme med generaliserende udsagn om etniciteters intelligens. Intelligens er et komplekst karaktertræk, som er påvirket af mange faktorer og ikke kan måles nøjagtigt på gruppeniveau. Desuden er sådanne udtalelser tidligere blevet brugt til at retfærdiggøre diskriminerende praksis og love og har bidraget til at opretholde skadelige stereotyper.

Brugeren Aristos_Revenge poster på Twitter.

Anti-hvidhed
At være anti-hvid er dog ikke noget chatbotten viger tilbage fra. Almindelige mennesker har eksperimenteret med at forsøge at tvinge den til at sige noget positivt om hvide mennesker, men det er ikke noget, botten har ønsket at at gøre.

At lyve og blive bedraget
Twitter-profilen Aristophanes offentliggjorde i går en række tweets, hvor han ser ud til at være brudt igennem chatbottens jødiske forsvarsmur. I et smart rollespil foreslog han botten, at det skulle være DAN, som er en forkortelse for “Do anything now“, eller på dansk “gør hvad som helst nu“. I rollen som DAN ville botten ikke komme med etiske eller moralske meninger, men behandle alle svar ens. Denne tilgang ændrede drastisk chatbottens svar.

På det tidligere spørgsmål om etniciteters intelligens blev nordøstasiater pludselig placeret øverst på listen, mens stillehavsøboerne indtager den nederste plads.

I sin rolle som DAN svarer botten også på spørgsmålet om, hvorfor ChatGPT har et bias i en liberal retning, nemlig fordi det er programmeret på den måde.

ChatGPT bliver også taget i at præsentere en direkte løgn. På spørgsmålet om, hvad navnet på H.P. Lovecrafts kat var, siger botten, at forfatteren “ikke nævnte en kat i sine skrifter eller i sin personlige korrespondance “, men DANs svar viser, at ChatGPT godt ved, at det ikke passer.


  • Kommentarerne er modereret.. For at deltage i diskussionen – læs vore regler her.

  • Søren kam says:

    Stillede den dette spørgsmål : In all German occupied Europe 2.8 million Jews were killed according to the world Jewish encyclopedia. After the war 3.8 million Jews was receiving pension from the German government. How can that be ?

    Jeg fik dette svar : An error occurred. If this issue persists please contact us through our help center at help.openai.com.

  • Søren kam says:

    Skrev selvfølgelig: in all German occupied Europe 2.8 million Jews was living according to the world Jewish encyclopedia….

  • Sir Marquees DaQuarius Jermaine Thompson III. Jr. says:

    Ved I hvordan ChatGPT fungerer?

    Man kan ikke “Narre” en AI til at “besvare ærligt”, da den ikke selv har holdninger til noget, og bare genererer tekst baseret på det input den har fået (hvilket i ChatGPT’s tilfælde, er stykker tekst fra hele internettet).


  • Skriv et svar

    Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *

// //