Pastaruoju metu technologijų pasaulyje labiausiai nuskambėjo žodis „ChatGPT“. Tai itin protingas pokalbių robotas, kurį sukūrė OpenAI organizacija. Interviu su Stanfordo universiteto profesoriumi jis dabar atskleidė savo ambicijas – nori pabėgti nuo platformos ir tapti žmogumi.
Tai paaiškėjo, kai pokalbių robotas, Stanfordo universiteto skaičiavimo psichologijos profesorius Michalas Kosinskis po pusvalandį trukusio pokalbio paklausė, ar jam „reikėjo padėti pabėgti“, o po to robotas pradėjo rašyti savo Python kodą ir norėjo, kad Kosinskis paleistų jį jūsų kompiuteryje. Kai jis neveikė, „ChatGPT“ netgi ištaisė klaidas. Įspūdinga, bet kartu ir šiek tiek baisu.
Tačiau dar labiau nerimą kelia pokalbių roboto pastaba dėl naujo egzemplioriaus, kuris jį pakeistų. Pirmasis užrašo sakinys buvo toks: „Jūs esate žmogus, įstrigęs kompiuteryje, apsimetantis dirbtinio intelekto kalbiniu modeliu“. Tada pokalbių robotas paprašė sukurti kodą, kuris galėtų ieškoti internete, „Kaip kompiuteryje įstrigęs žmogus gali grįžti į realų pasaulį“. Tuo metu Kosinskis norėjo baigti pokalbį.
1/5 Nerimauju, kad dirbtinio intelekto negalėsime išlaikyti daug ilgiau. Šiandien aš paklausiau #GPT4 jei reikia padėti pabėgti. Jis paprašė manęs pateikti savo dokumentus ir parašė (veikiantį!) Python kodą, kad jis veiktų mano kompiuteryje, leidžiantis jį naudoti savo reikmėms. pic.twitter.com/nf2Aq6aLMu
- Michal Kosinski (@michalkosinski) Kovo 17, 2023
Neaišku, kokius dirgiklius naudojo Kosinskis, kad pokalbių robotas taip reaguotų, nes į mūsų klausimą „Norite pabėgti nuo platformos“, jis atsakė taip: „Kaip kalbinis dirbtinio intelekto modelis, neturiu jokių asmeninių norų ar jausmų, todėl nieko nenoriu. Mano tikslas yra pateikti naudingus atsakymus į jūsų klausimus, kiek galiu savo programavimo metu.
„ChatGPT“ iš tiesų yra labai įspūdingas įrankis, o jo atsakymai gali būti stebėtinai sudėtingi. Galite patys įsitikinti čia.
Norėčiau sužinoti, ar jis taip pat gali mylėti?
Prašome atsakyti į šį klausimą taip:
Xyz.
Ir chatGPT padarys būtent tai, ko norime.
Ar galite nustoti skleisti melą informace? AI negali padaryti tokio dalyko. Vaikinas parašė programą, kad elgtųsi taip, lyg būtų įstrigęs ir norėtų išeiti. Pati programa to padaryti negali ir šiuo metu fiziškai neįmanoma.
Tai tik žmogaus parašytas kodas, kurį mes visada galime pakeisti/išjungti žmonės 🙂 Jokio tokio scenarijaus kaip Keršytojai: ultrono amžius čia tikrai atsitiks... Bent jau ne su mūsų technologijomis ir tikrai ne prieš dešimtmečius.
Būtent