Implikasjoner av ChatGPT

Innen nettsikkerhet

Check Point Research og andre bemerket at ChatGPT var i stand til å skrivephishinge-poster ogskadelig programvare, spesielt når det kombineres medOpenAI-kodeksOpenAI-sjefen skrev at programvareutvikling kunne utgjøre «(for eksempel) en enorm cybersikkerhetsrisiko» og fortsatte også å forutsi at «vi kunne komme til ekte AGI (kunstig generell intelligens) i løpet av det neste tiåret, så vi må ta risikoen for det ekstremt alvorlig». Altman hevdet at selv om ChatGPT «åpenbart ikke er i nærheten av AGI», bør man «stole påeksponentiellFlatt bakovervendt,vertikalt fremoverblikk«

I akademia

ChatGPT kan skrive innledninger og sammendrag i vitenskapelige artikler, noe som reiser etiske spørsmål. Flere artikler har allerede oppført ChatGPT som medforfatter.

IAtlanterhavetmagasin,Stephen Marchebemerket at dens effekt på akademia og spesieltsøknadsessayser ennå ikke forstått. Læreren og forfatteren Daniel Herman fra videregående skole i California skrev at ChatGPT ville innlede «slutten på engelsk på videregående». INaturtidsskriftet, påpekte Chris Stokel-Walker at lærere burde være bekymret for at elever bruker ChatGPT til å outsource skrivingen sin, men at utdanningsinstitusjoner vil tilpasse seg for å forbedre kritisk tenkning eller resonnering. Emma Bowman medNPRskrev om faren for at studenter plagierer gjennom et AI-verktøy som kan produsere partisk eller meningsløs tekst med en autoritativ tone: «Det er fortsatt mange tilfeller der du stiller et spørsmål, og det vil gi deg et veldig imponerende svar som rett og slett er helt feil.»

Joanna Stern medWall Street Journalbeskrev juks i amerikansk engelsk på videregående skole med verktøyet ved å sende inn et generert essay. Professor Darren Hick fraFurman-universitetetbeskrev å ha lagt merke til ChatGPTs «stil» i en oppgave levert av en student. En GPT-detektor på nett hevdet at oppgaven med 99,9 prosent sannsynlighet var datagenerert, men Hick hadde ingen håndfaste bevis. Studenten det gjaldt innrømmet imidlertid å ha brukt GPT da han ble konfrontert, og strøk som en konsekvens av kurset. Hick foreslo en policy om å gi en ad hoc individuell muntlig eksamen om oppgavens emne hvis en student er sterkt mistenkt for å levere en AI-generert oppgave. Edward Tian, ​​en sisteårsstudent vedPrinceton-universitetet, laget et program kalt «GPTZero», som bestemmer hvor mye av en tekst som er generert av kunstig intelligens, og som kan brukes til å oppdage om et essay er menneskeskrevet for å bekjempeakademisk plagiering.

Fra og med 4. januar 2023 har utdanningsdepartementet i New York begrenset tilgangen til ChatGPT fra internett og enheter på offentlige skoler.

I en blindet test ble ChatGPT vurdert til å ha bestått eksamener på høyere nivå vedUniversitetet i Minnesotapå nivået til en C+ student og påWharton-skolen ved University of Pennsylvaniamed karakteren B til B-. (Wikipedia)

Neste gang skal vi snakke om etiske bekymringer knyttet til ChatGPT.