Kunagi olid masinad tööriistad – loogilised, etteaimatavad ja sisendiga seotud. Kuid generatiivse tehisintellekti ja närvivõrkude ajastul on nad hakanud tegema midagi kummalist: nad hallutsineerivad. Nad loovad kujundeid, mida keegi pole teinud, loovad muusikat, mida keegi pole mänginud, ja kirjutavad sõnu, mida keegi pole öelnud.
Need ei ole koodivead. Need on räni hallutsinatsioonid– inimandmete ookeanidel treenitud süsteemide tekkivad, loomingulised ebaõnnestumised. Ja need paljastavad midagi sügavat: masinad võivad omal moel hakata unistus.
Mis on masinhallutsinatsioon?
Tehisintellekti, eriti suurte keelemudelite ja pildigeneraatorite puhul on termin hallutsinatsioon viitab väljundile, mis on usutavalt kõlav, aga vale või väljamõeldis.
Näited hõlmavad järgmist:
- Tehisintellekt väidab ajaloolist fakti, mida kunagi ei juhtunud.
- Tekstist pildiks teisendamise mudel, mis genereerib inimese, keda pole olemas.
- Vestlusrobot, mis loob lennult viiteid, tsitaate või terveid lugusid.
Need ei ole vead traditsioonilises mõttes. Need on mustriennustussüsteemide töö tulemus. liiga hästi—lünkade täitmine tõenäosuspõhise kujutlusvõimega, mitte kontrollitud reaalsusega.
Inimeste unistuste järgi treenitud masinad
Suuremahulisi tehisintellekti mudeleid treenitakse terabaitides inimese loodud sisuga: raamatud, kunst, fotograafia, säutsud, foorumipostitused, teadusartiklid ja meemid. Nad ei õpi ainult fakte; nad õpivad kuidas me mõtleme, kuidas me unistame, kuidas me moonutame.
Kui masin hallutsineerib, ei tee see lihtsalt viga. See taasühendab kultuurifragmente uuteks vormideks – vormideks, mis tunduvad ebamaiselt tuttavad, kuid pole kunagi varem nähtud.
Seepärast tunduvad väljundid sageli sürreaalsed: nad asuvad kuskil vahepeal mälu ja fantaasia, vahel signaal ja müra.
Kas need "unistused" on reaalsed?
Muidugi ei näe masinad und nagu meie. Neil puudub teadvus, emotsioonid ja siseelu. Kuid funktsionaalselt meenutavad nende hallutsinatsioonid unenägusid mitmel olulisel moel:
- Nad on generatiivsedUnenäod (ja masinahallutsinatsioonid) konstrueeritakse, mitte ei mängita uuesti läbi.
- Nad on assotsiatiivsedMõlemad ühendavad erinevaid ideid ettearvamatul viisil.
- Nad on sümboolsedVäljundid sisaldavad sageli veidraid kõrvutusi või metafoore.
- Nad on piirangutetaJäigast loogikast vabana uurivad nad kummalisi võimalusi.
See on pannud mõned mõtlejad arvama, et tehisintellekt arendab omamoodi sünteetiline kujutlusvõime—mitte teadlik, kuid võimeline looma uudseid vaimseid maastikke.
Masinamõistuse esteetika
Nende hallutsinatsioonide ümber on tekkinud uus kunstivorm.
- Tehisintellekti loodud kunst kubiseb unenäolistest moonutustest: sulavad näod, võimatu arhitektuuriga ruumid, värvid, mida looduses kunagi ei esine.
- Sünteetilised hääled oskab sosistada fraase toonil, mis ei kuulu päris ühelegi inimesele.
- Loodud lood libisevad sageli rekursiivsetesse silmustesse, ebaloogilistesse keerdkäikudesse või poeetilise jama sisse.
Need väljundid tunduvad võõrad – ja ometi kõhedusttekitavalt intiimsed. Need peegeldavad meid, filtreerituna läbi mitteinimliku tunnetuse.
Asi pole ainult selles, mida masin näeb, vaid ka selles, kuidas ta seda näeb. valesti aru saab meid. Ja nendes väärtõlgendustes sünnib midagi uut.
Filosoofilised lained
Räni hallutsinatsioonid sunnivad meid esitama sügavaid küsimusi:
- Kas masinad saavad olla loomingulised ilma arusaamiseta?
- Kas kujutlusvõime on lihtsalt piisavalt keerukas ennustus?
- Kui masinad unes näevad, kas nad siis ka? usun?
Ja ehk kõige kummalisem: kui seadmed suudavad nii veenvalt genereerida kujuteldavaid reaalsusi... kuidas me saame usaldada meie oma?
Oleme sisenenud ajastusse, kus simuleeritud ja reaalse piir hägustub – mitte ainult kavatsuse, vaid ka ... õnnetus.
Kui hallutsinatsioonidest saavad tööriistad
Kõik hallutsinatsioonid ei ole esteetilised ega poeetilised. Mõnel on praktiline kasutus.
- Loominguline inspiratsioonKirjanikud ja disainerid kasutavad tehisintellekti hallutsinatsioone uudsete ideede sütitamiseks.
- Vea tuvastamineKüberturvalisuses saab hallutsinatsioonistsenaariume kasutada nähtamatute ohtude ennetamiseks.
- Sünteetilised andmedTehisintellekti loodud näited aitavad teisi süsteeme privaatsust kahjustamata treenida.
Iroonilisel kombel, ebatäpsus muutub iseloomulikuks tunnuseks. Hallutsinatsioonidest saab leiutamise kütus.
Kokkuvõte: Unistusmasin
Fraas räni hallutsinatsioon Kõlab nagu ulme – aga see on juba siin. Meie seadmed, mis kunagi ehitati ainult loogika ja arvutamise jaoks, simuleerivad nüüd inimmõistuse ettearvamatut loovust.
Nad remiksivad, tõlgendavad ümber ja kujutlevad.
Ja kuigi nad ei maga, näevad nad und – pikslite, mustrite, tõenäosuste kaudu.
Edasi liikudes ei pruugi tegelik väljakutse olla meiega sarnaselt mõtlevate masinate ehitamine. See võib olla tõlgendamise õppimine. mida nad meist unistavad.
