Firma, déi ChatGPT fir Mental Health Support benotzt, erhéicht ethesch Themen

  • Eng digital mental Gesondheetsfirma zitt Angscht fir GPT-3 Technologie ze benotzen ouni d’Benotzer z’informéieren.
  • De Koko Matgrënner Robert Morris huet dem Insider gesot datt d’Experiment “befreit” ass vum informéierten Zoustëmmungsgesetz wéinst der Natur vum Test.
  • E puer medizinesch an technesch Fachleit hunn gesot datt si gefillt hunn datt d’Experiment onethesch wier.

Wéi d’Benotzungsfäll vu ChatGPT ausdehnen, benotzt eng Firma déi kënschtlech Intelligenz fir mat digitaler mentaler Gesondheetsversuergung ze experimentéieren, a léisst Liicht op ethesch gro Beräicher ronderëm d’Benotzung vun der Technologie.

De Rob Morris – Matgrënner vu Koko, e gratis mentale Gesondheetsservice an Nonprofit, deen Partner mat Online Gemeinschaften fir a riskéiert Individuen ze fannen an ze behandelen – schreift an engem Twitter thread e Freideg datt seng Firma GPT-3 Chatbots benotzt huet fir Äntwerten op 4.000 Benotzer z’entwéckelen.

De Morris sot am Fuedem datt d’Firma eng “Co-Pilot Approche getest huet mat Mënschen déi den AI ​​iwwerwaachen wéi néideg” a Messagen geschéckt iwwer Koko Peer Support, eng Plattform déi hien an engem begleedende Video beschriwwen huet als “eng Plaz wou Dir Hëllef kritt. aus eisem Reseau oder engem aneren hëllefen.”

“Mir maachen et ganz einfach fir aner Leit ze hëllefen a mat GPT-3 maache mir et nach méi einfach fir méi effizient an effektiv als Hëllefsprovider ze sinn”, sot de Morris am Video.

ChatGPT ass eng Variant vu GPT-3, déi mënschlech-ähnlechen Text erstellt baséiert op Ufroen, béid vun OpenAI erstallt.

Koko Benotzer goufen am Ufank net informéiert datt d’Äntwerte vun engem Bot entwéckelt goufen, an “wann d’Leit geléiert hunn datt d’Messagen vun enger Maschinn zesummegeschafft goufen, huet et net geschafft”, huet de Morris e Freideg geschriwwen.

“Simuléiert Empathie fillt sech komesch, eidel. Maschinnen hunn net gelieft, mënschlech Erfahrung also wann se soen” dat kléngt schwéier “oder” Ech verstinn “, et kléngt inauthentesch “, huet de Morris am Fuedem geschriwwen. “Eng Chatbot-Äntwert déi an 3 Sekonnen generéiert gëtt, egal wéi elegant, fillt sech iergendwéi bëlleg.”

Wéi och ëmmer, e Samschdeg, De Morris huet getweet “eng wichteg Erklärung.”

“Mir hunn d’Leit net gepaart fir mat GPT-3 ze chatten, ouni hir Wësse. (am Réckbléck konnt ech mäin éischten Tweet formuléieren fir dëst besser ze reflektéieren), “sot den Tweet.

“Dës Fonktioun war Opt-an. Jiddereen wousst iwwer d’Funktioun wann et fir e puer Deeg liewen war.”

De Morris sot e Freideg datt de Koko “dëst vun eiser Plattform zimlech séier gezunn huet.” Hien huet bemierkt datt AI-baséiert Messagen “däitlech méi héich bewäert goufen wéi déi vu Mënschen eleng geschriwwe ginn”, an datt d’Äntwertzäiten ëm 50% erofgaange sinn dank der Technologie.

Ethesch a juristesch Bedenken

D’Experiment huet zu Gejäiz op Twitter gefouert, mat e puer ëffentlech Gesondheet an Tech Fachleit, déi d’Firma ruffen op Fuerderungen déi se verletzt hunn informéiert Zoustëmmung Gesetz, eng Féderalen Politik déi Mandat datt mënschlech Sujeten Zoustëmmung virum Engagement an Fuerschung Zwecker.

“Dëst ass déif onethesch,” Medienstrateg an Auteur Eric Seufert e Samschdeg getweet.

“Wow ech géif dat net ëffentlech zouginn,” Christian Hesketh, dee sech op Twitter als klineschen Wëssenschaftler beschreift, e Freideg getweet. “D’Participanten sollten informéiert Zoustëmmung ginn hunn an dëst sollt duerch eng IRB passéiert sinn [institutional review board]”.

An enger Ausso un Insider e Samschdeg, sot de Morris datt d’Firma “net d’Leit paréiert fir mat GPT-3 ze chatten” a sot datt d’Optioun fir d’Technologie ze benotzen geläscht gouf nodeems se gemierkt hunn datt et “wéi eng inauthentesch Erfahrung gefillt huet.”

“Mir hunn éischter eise Peer-Supporter d’Méiglechkeet gebueden GPT-3 ze benotzen fir hinnen ze hëllefen besser Äntwerten ze komponéieren,” sot hien. “Si krute Virschléi fir hinnen ze hëllefen méi ënnerstëtzend Äntwerte méi séier ze schreiwen.”

De Morris sot dem Insider datt dem Koko seng Studie “befreit” ass vum informéierten Zoustëmmungsgesetz, an zitéiert virdrun publizéiert Fuerschung vun der Firma déi och befreit war.

“All Individuum muss Zoustëmmung ubidden fir de Service ze benotzen,” sot de Morris. “Wann dëst eng Universitéitsstudie wier (wat et net ass, et war just eng Produktfeature exploréiert), da géif dëst ënner enger “befreit” Fuerschungskategorie falen.”

Hien huet weider: “Dëst setzt kee weidere Risiko fir d’Benotzer, keng Täuschung, a mir sammelen keng perséinlech erkennbar Informatioun oder perséinlech Gesondheetsinformatiounen (keng E-Mail, Telefonsnummer, IP, Benotzernumm, etc.).”

Eng Fra sëtzt op enger Canapé mat hirem Telefon

Eng Fra sicht mental Ënnerstëtzung op hirem Telefon.

Beatriz Vera / EyeEm / Getty Biller



ChatGPT an der mentaler Gesondheet gro Beräich

Wéi och ëmmer, d’Experiment stellt Froen iwwer Ethik an déi gro Beräicher ronderëm d’Benotzung vun AI Chatbots an der Gesondheetsariichtung insgesamt, nodeems se schonn Onrouen an der Akademie opgefuerdert hunn.

Den Arthur Caplan, Professer fir Bioethik op der New York University Grossman School of Medicine, huet an enger E-Mail un Insider geschriwwen datt d’Benotzung vun AI Technologie ouni d’Benotzer z’informéieren ass “grouss onethesch.”

“D’ChatGPT Interventioun ass kee Standard vun der Betreiung,” sot de Caplan Insider. “Keng psychiatresch oder psychologesch Grupp huet seng Effizienz verifizéiert oder potenziell Risiken ausgeluecht.”

Hien huet bäigefüügt datt Leit mat mentaler Krankheet “speziell Sensibilitéit an all Experiment erfuerderen”, inklusiv “enk Iwwerpréiwung vun engem Fuerschungsethikkomitee oder institutionnelle Bewäertungsrot virun, während an no der Interventioun”

De Caplan sot datt d’Benotzung vun der GPT-3 Technologie op esou Weeër seng Zukunft an der Gesondheetsindustrie méi breet kéint beaflossen.

“ChatGPT kann eng Zukunft hunn wéi vill AI Programmer wéi Roboterchirurgie,” sot hien. “Awer wat hei geschitt ass kann dës Zukunft nëmmen verzögeren a komplizéiere.”

De Morris sot dem Insider seng Absicht war “d’Wichtegkeet vum Mënsch an der Mënsch-AI Diskussioun ze ënnersträichen.”

“Ech hoffen, datt dat hei net verluer geet,” sot hien.

Leave a Comment