Implikasjoner av ChatGPT

I cybersikkerhet

Check Point Research og andre bemerket at ChatGPT var i stand til å skrivephishinge-poster ogskadevare, spesielt når det kombineres medOpenAI Codex.Administrerende direktør i OpenAI skrev at avansert programvare kunne utgjøre "(for eksempel) en enorm cybersikkerhetsrisiko" og fortsatte også å forutsi "vi kunne komme til ekte AGI (kunstig generell intelligens) i det neste tiåret, så vi må ta risikoen for det ekstremt alvorlig».Altman hevdet at mens ChatGPT "åpenbart ikke er i nærheten av AGI", bør man "stole påeksponentiell.Flatt ser bakover,vertikalt ser fremover."

I akademia

ChatGPT kan skrive introduksjoner og abstrakte deler av vitenskapelige artikler, som reiser etiske spørsmål.Flere aviser har allerede oppført ChatGPT som medforfatter.

IAtlanterenBlad,Stephen Marchebemerket at dens effekt på akademia og spesieltsøknad essayser ennå ikke forstått.California videregående lærer og forfatter Daniel Herman skrev at ChatGPT ville innlede "slutten på videregående engelsk".INaturjournal, påpekte Chris Stokel-Walker at lærere bør være bekymret for elever som bruker ChatGPT for å sette ut skrivingen sin, men at utdanningsleverandører vil tilpasse seg for å forbedre kritisk tenkning eller resonnement.Emma Bowman medNPRskrev om faren for at studenter plagierer gjennom et AI-verktøy som kan gi ut partisk eller useriøs tekst med en autoritativ tone: "Det er fortsatt mange tilfeller der du stiller det et spørsmål, og det vil gi deg et veldig imponerende klingende svar som bare er helt feil."

Joanna Stern medWall Street Journalbeskrev juks på amerikansk videregående engelsk med verktøyet ved å sende inn et generert essay.Professor Darren Hick avFurman Universitybeskrev å legge merke til ChatGPTs "stil" i en oppgave sendt inn av en student.En online GPT-detektor hevdet at papiret var 99,9 prosent sannsynlig å være datagenerert, men Hick hadde ingen harde bevis.Den aktuelle studenten tilsto imidlertid å ha brukt GPT når han ble konfrontert, og som en konsekvens ikke bestått kurset.Hick foreslo en policy om å gi en ad-hoc individuell muntlig eksamen om papiremnet hvis en student er sterkt mistenkt for å sende inn en AI-generert oppgave.Edward Tian, ​​en senior student vedPrinceton University, opprettet et program, kalt "GPTZero", som bestemmer hvor mye av en tekst som er AI-generert, og egner seg til å brukes til å oppdage om et essay er menneskelig skrevet for å bekjempeakademisk plagiat.

Fra 4. januar 2023 har New York City Department of Education begrenset tilgangen til ChatGPT fra internett og enheter på offentlige skoler.

I en blindtest ble ChatGPT bedømt til å ha bestått eksamen på høyere nivåUniversity of Minnesotapå nivå med en C+-student og påWharton School ved University of Pennsylvaniamed en B til B-karakter.(Wikipedia)

Neste gang skal vi snakke om etiske bekymringer ved ChatGPT.