OpenAI baiminasi, kad žmonės taps „emociškai priklausomi“ nuo ChatGPT žmogaus balso
„OpenAI“, „ChatGPT“ kūrėjas, atskleidė, kad vartotojai gali tapti emocine priklausomybe nuo būsimo pokalbių roboto balso režimo.
„ChatGPT-4o“ režimas šiuo metu analizuojamas, kad būtų užtikrintas saugumas, kol jis bus pristatytas bendruomenei. Tai leidžia vartotojams tam tikru mastu natūraliai kalbėtis su asistentu, tarsi jis būtų tikras asmuo.
Dėl to kyla emocinės priklausomybės ir „vis labiau klaidingo pasitikėjimo“ AI modelio rizika, kurią dar labiau padidintų sąveika su neįtikėtinai žmogaus balsu. Balsas, kuris balso tonu taip pat gali atsižvelgti į vartotojo emocijas.
Su šiuo „Amazon“ pasiūlymu sutaupykite daug „PlayStation VR 2“.
PS VR 2 „Amazon“ smuko iki 423,50 GBP. Šiandien apsipirkdami sutaupykite 97,49 GBP pirkdami 4K žaidimų ausines. Tai yra 18 % nuolaida 2023 m. ausinėms už 529,99 GBP RRP.
- Amazon
- Buvo 529,99 GBP
- 423,50 GBP
Žiūrėti pasiūlymą
Šią savaitę paskelbtos saugos apžvalgos (per „Wired“) išvados išreiškė susirūpinimą dėl kalbos, kuri atspindi bendrų žmogaus ir dirbtinio intelekto ryšių jausmą.
„Nors šie atvejai atrodo gerybiniai, jie rodo, kad reikia toliau tirti, kaip šis poveikis gali pasireikšti ilgesnį laiką“, – rašoma apžvalgoje. Taip pat teigiama, kad priklausomybė nuo AI gali turėti įtakos santykiams su kitais žmonėmis.
„Į žmogų panaši socializacija naudojant AI modelį gali sukelti išorinių padarinių, turinčių įtakos žmonių tarpusavio sąveikai. Pavyzdžiui, vartotojai gali užmegzti socialinius santykius su dirbtiniu intelektu, sumažindami žmonių sąveikos poreikį – tai gali būti naudinga vienišiems asmenims, bet galbūt turėti įtakos sveikiems santykiams. Išplėstinė sąveika su modeliu gali turėti įtakos socialinėms normoms. Pavyzdžiui, mūsų modeliai yra pagarbūs, todėl vartotojai gali bet kada pertraukti ir „paimti mikrofoną“, o tai, nors ir tikimasi dirbtinio intelekto atveju, būtų antinormatyvu žmonių sąveikoje“, – priduriama dokumente.
Be to, peržiūra atkreipė dėmesį į per didelio pasitikėjimo ir priklausomybės galimybę.
„Gebėjimas atlikti užduotis už vartotoją, kartu saugoti ir „atsiminti“ pagrindines detales bei naudojant pokalbio metu esančias detales, sukuria patrauklią produkto patirtį ir perdėto pasitikėjimo bei priklausomybės potencialą.
Komanda teigė, kad bus toliau tiriama galimybė emocinei priklausomybei nuo balsu pagrįstos ChatGPT versijos. Ši funkcija šią vasarą patraukė pagrindinį dėmesį dėl stulbinančio balso panašumo į aktorę Scarlett Johansson. Holivudo žvaigždė, kuri iš tikrųjų vaidino dirbtinį intelektą, būdamas jos naudotojas, įsimylėjęs filme Her, atsisakė pasiūlymo įgarsinti OpenAI asistentą.
Tačiau galutinis rezultatas vis tiek skambėjo įtartinai kaip ji, nepaisant generalinio direktoriaus Samo Altmano tvirtinimo, kad balsas nebuvo klonuotas.
