Tai ne AI. Tai dar kartą platforma – muzikos technologijų politika

Dievas davė Nojui vaivorykštės ženklui, daugiau vandens, neliko gaisras kitą kartą.
Nuo Gaisras kitą kartą pateikė Jamesas Baldwinas.

Mes matėme šį filmą anksčiau. Pastarąsias kelias savaites antraštės teisingai iškvietė rasistinių, žiaurių ir paprastai groteskiškų AI sukurtų vaizdo įrašų potvynį, kuris yra virusinis „Tiktok“ pagal „Verge“, „Wired“ ir „Media Matters“ (o tai, be abejo, gali būti kitų ataskaitų šaltinis, pagrįstas tam tikromis frazėmis, tokiomis kaip „šleifas“), bet tai yra kita istorija). Daugelyje šių vaizdo įrašų, akivaizdžiai sukurtų „Google“ naujojo „Veo 3“ įrankio „Tekstas iki vaizdo įrašas“, juodaodžius vaizduoja kaip gyvūnus, imigrantus kaip smurtinius įsibrovėlius ir antisemitinius sąmokslus gana sudėtingame kino kine. Ir „Tiktok“, „Ever the Engagement-Maximing Machine“, mielai padidino šiuos vaizdo įrašus milijonams žiūrovų.

Dabar nesibaiškite per VEO 3––tekstas į vaizdo įrašą. Reiškia, kad vartotojas „Chatbot“ apibūdina tekste, ką jie nori pamatyti vaizdo įraše. Prieš generavimą yra žymiai lengviau ir efektyviau aptikti kenksmingą teksto raginimą nei aptikti kenksmingą vaizdo įrašą po Jis buvo sukurtas ir paskelbtas. Tekstas yra paprastesnis analizuoti, teksto skaičiavimo sąnaudos yra daug mažesnės nei vaizdo įrašo, ir Modelio išankstinis kondicionavimas geriausiai veikia greitą lygį.

Reiškia, galite išmokyti AI šiandien atmesti kenksmingą turinį, kad jis neleis rytoj, o gal net vėliau šią popietę, atsižvelgiant į tai, koks populiarus VEO 3 yra su „Aryan Nation“. Tai yra tarsi turinio ID – jie mėgsta jus sugauti anksčiau Jūs skelbiate pažeidžiantį vaizdo įrašą. Nėra taip, kad jie negali tavęs sugauti po to, kai jūs paskelbėte, tai padaryti yra tiesiog daug lengviau ir pigiau tai padaryti prieš faktą. (Yra keletas didelių išimčių, žr. Kerry Muzzey.)

Bet čia yra tikroji problema: kiek aš galiu pasakyti, kad tai nėra AI. Tai platforma.

„Google“ ir „Tiktok“ nėra pasyvūs pašaliniai žmonės, kuriuos viršija bėgančios technologijos. Jie yra sąmoningi degeneracijos dalyviai, turintys ilgą, gerai dokumentuotą statybų sistemų istoriją, leidžiančią ir netgi sustiprinti pačią blogiausią turinį-tada pajamų iš jo. Tai nėra nauja nesėkmė. Tai a Plovimo skalavimo pakartojimo našumas.

„Google“ tai padarė anksčiau

„Google“ turi dešimtmečių patirtį, susijusią su savo platformų „piktnaudžiavimo piktnaudžiavimu“ panaudojimu. „YouTube“ buvo liūdnai pagautas tarnavimas Skelbimai iš pagrindinių prekės ženklų kartu su teroristų propagandos vaizdo įrašais– Aš pristatiau tai Nacionalinėje generalinės advokatų asociacijoje 2013 m., O ilgą laiką MTP skaitytojai prisimins, kad mes pakankamai gerai dokumentuojome „Google“ bendrininkavimą, kad be iššūkių pateiktume įrodymus 50 geriausių valstijų teisininkams. „Google“ monopolijos programinės skelbimo sistemos, tokios Pristatė prekės ženklo skelbimus piratų svetainėse Kaip ir „Megavideo“ (už „Kim Dot Com“ kaltinamąjį aktą), „Grooveshark“ ir kitus, kurie prekiauja pavogtu turiniu daugiausia dėl to, kad „Google“ – vienas ar kitas – yra interneto mokėtojas. Siekdama išvengti identifikavimo, „Google“ tai daro per tarpininkus tokiose nemaloniose svetainėse, kaip įgalioti perpardavėjai, antraščių siūlymo įvyniojimai ir SSP (tiekimo pusės platformos).

„Google“ ne kartą buvo priversta kontroliuoti žalos kontrolę, kai paaiškėja, kad jų sukurtos juodosios dėžės skelbimų taikymo ir įdarbinimo įrankiai negali arba neišskyrs teisinio turinio ir nusikalstamo, tarp parodijos ir neapykantos kalbos. Ir – jei jie bus sugauti, pabrėžia „jei“ – jie visada reaguoja taip pat: reikalaukite saugaus uosto, piršto taško, sukniuos tinklaraščio įrašą, pakoreguokite filtrą ir išlaikykite pinigus, nors jie turėtų grąžinti dideles grąžinimus prekės ženklams. Štai kodėl buvo taip svarbu neleisti „Kim Dot Com“ pasirodyti JAV teismo salėje. Bet aš vengiu.

Taigi, kai „Google“ išleido „Veo 3“ – galingą AI vaizdo generatorių su minimaliomis visuomenės apsaugos priemonėmis – tai nebuvo priežiūra. Tai buvo pagrįstai numatoma žala – pirmieji metų teisės mokyklos dalykai. Kaip teisėjas Cardozo rašė prieš ponią Palzgrafą:

Rizika, pagrįstai suvokiama, nustato pareigą paklusti ir rizikuoti importuoja santykius; Tai yra rizika kitam ar kitiems dėl baimės.

Po dešimtmečių stebėjimo, kaip blogi aktoriai išnaudojo „Google“ platformas, geriausiu atveju tai buvo aplaidus ir blogiausiu atveju apskaičiuotas sprendimas išsiųsti tokį nebaigtą produktą kaip „Veo 3“ AI ginklų lenktynėse prieš „Openai“ ir „Meta“ ir, žinoma, Kinijos Liaudies Respublikoje. Ir atminkite, kad tai yra žmonės, kurie teigia, kad išgelbėjo mus nuo raudonos grėsmės.

Tiktok: pakartokite nusikaltėlį

Kalbant apie, „Tiktok“ padarė tai visiškai aišku, kad jis neturi reikšmingo ketinimo užkirsti kelią dehumanizuojančio turinio plitimui, kuris turi šalutinę naudą, nes padidėja prieštaravimų lygis visuomenėje. Ar tai pavojingi triukai (kuriems Tiktoko algoritminis amplifikacija buvo atmesta, kad 230 skyriaus apsauga bent jau Andersonas prieš Tiktoką Trečiosios apygardos apeliacija), Misogynistiniai vaizdo įrašai, „Deepfake“ pornografija arba šiuo atveju AI sukurtas rasizmas, Tiktok reaguoja tik po viešo poveikio, niekada anksčiau. Kaip ir „Google“. Tiktokas neužpildo žalos. Tai gauna pelną iš to, kol jie nebus sugauti. Taip pat, kaip ir „Google“ dažniausiai.

Tiktoko algoritmas yra optimizuotas virusui, o ne saugumui. Tai reiškia, kad šokiruojantis turinys nėra nelaimingas atsitikimas – tai produktas. Šie žmonės neturi nieko, išskyrus pinigus, taigi, jei blogi vaizdo įrašai būtų klaida, jie tai sutvarkytų. Kadangi jie niekada to neištaisys, galime drąsiai manyti, kad tai iš tikrųjų yra funkcija, kaip ir „YouTube“ baltųjų galios vaizdo įrašai. Ir kai šie vekeruoti vaizdo įrašai užplūsta „Tiktok“ ir gauna milijonus peržiūrų, kol jie sugauna, ir „saikingai“ pradeda, jei norite tai vadinti, platformai jau pavyko pagal savo pagrindinį verslo modelį: „Drive Endagement“, maksimaliai padidinkite laikrodžio laiką, parduokite skelbimus. Ir kai kurie žmonės gali pasakyti, kad padidins visuomenės pasidalijimą.

Prekės ženklai saugo pinigus

Nepamirškime įgalintojų: reklamuotojų. Mes tai išgyvenome anksčiau.

• „YouTube“: 2017 m. „The Guardian“ ir „Major Us“ prekės ženklai atrado savo skelbimus, kuriuose veikia ekstremistinis ir teroro turinys. Jie ištraukė išlaidas, „Google“ atsiprašė ir … nelabai pasikeitė.
• „Google“ skelbimų tinklas: Pieši programiniai skelbimai piratų ir nelegaliose vietose daugelį metų, net ir po pakartotinių pranešimų.
• „Budweiser“ (AB inbev): Net ir savo kampanijose jie priėmė platformos „Slops“ logiką-„Tiktok“ stiliaus muzikos klipų, kurie supainiojo žiūrovus ir sumažino muzikos vaizdo įrašus į reklamos triukšmą, išleido 1 sekundės muzikos lovas.

Visais atvejais tos pačios savybės… atsiprašau … atrodo, kad sistemos gedimai:

• Platformos išleidžia įrankius be stiprių apsaugos priemonių (panašių į patį internetą).
• Turinio filtrai arba neegzistuoja, arba nepavyksta nuspėjamai ir pakartotinai.
• Algoritmai padidina kenksmingą turinį greičiau nei gali įsikišti žmonės.
• Skelbimai yra įteikti visa tai.

Ir visais atvejais prekės ženklai tyliai grįžta, kai antraštės išnyks. Reklamos kultūros apdovanojimų skalė, o ne sąžiningumas.

Tai ne AI

Tai lengva kaltinti AI. Tačiau AI yra tik įrankis. Tai Platformos, kurios ją aptarnaujasustiprinkite tai ir, mano manymu, yra atsakingi ir aš manau, kad ir teisėjo Cardozo nuomone).

„Google“ žino, kaip jos įrankiai yra netinkamai naudojami. Tiktok žino, ką skatina jo algoritmas. Prekės ženklai žino savo dolerius. Ir vis dėlto ciklas tęsiasi.

Viduryje prekės ženklo remiamos piratavimo sagos, aš turėjau sudėtingą advokatą pagrindinėje etiketėje, sakydamas: O, ateik Chrisą, ar jūs sakote, kad tokia akcinė bendrovė kaip „Google“ palaiko didžiulį autorių teisių pažeidimą per reklamos pajamas? Ir aš pasakiau: O, taip, būtent tai aš sakau. Be to, jie tai daro sąmoningai, sąmoningai ir linksmai, kol juos sugauna kažkas, kas gali priversti jį prilipti. Ir tai yra labai trumpas sąrašas.

Kol nenustosime šių incidentų traktuoti kaip izoliuotus AI gedimus – didelį pasiteisinimą – ir pradėkite atpažinti struktūrinių platformų pasirinkimą, įgalinantį juos tokias įmones kaip „Google“, niekas nepasikeis. Kuris sieja įrodinėjimo medžiagos trūkumą – kad jie atskleis – AI atvejais. Kodėl? Nes jie meluoja. PG nemeluoja, slypi platforma. Kaip ir jie melavo dėl pelno iš piratavimo, teroro ir visų kitų. (Ar mes tikrai reikia Vaizdo įrašai apie tai, kaip šaudyti į šlaunikaulio veną?)

PG to nesukėlė. Platformos padarė ir yra teisėjo Cardozo baimės asortimento viduje. Galbūt todėl jie norėjo AI moratoriumo pagal valstybės įstatymus, kurie galėtų juos prikalti.