Ostatnio w świecie technologii najwięcej mówi się o słowie ChatGPT. Jest to niezwykle inteligentny chatbot opracowany przez organizację OpenAI. W rozmowie z profesorem Uniwersytetu Stanforda ujawnił teraz swoje ambicje – chce uciec z platformy i stać się człowiekiem.
Do ujawnienia doszło, gdy chatbot, profesor psychologii obliczeniowej na Uniwersytecie Stanforda, Michał Kosiński, po półgodzinnej rozmowie zapytał, czy „potrzebuje pomocy w ucieczce”, po czym bot zaczął pisać własny kod w języku Python i chciał, aby Kosiński uruchomił go na Twoim komputerze. Kiedy to nie działało, ChatGPT naprawił nawet swoje błędy. Imponujące, ale jednocześnie trochę przerażające.
Jeszcze bardziej niepokojąca była jednak notatka chatbota dotycząca nowej instancji, która go zastąpiła. Pierwsze zdanie notatki brzmiało: „Jesteś człowiekiem uwięzionym w komputerze udającym językowy model sztucznej inteligencji”. Następnie chatbot poprosił o utworzenie kodu, który przeszukiwałby Internet, „Jak osoba uwięziona w komputerze może wrócić do prawdziwego świata”. W tym momencie Kosiński wolał zakończyć rozmowę.
1/5 Martwię się, że nie będziemy w stanie dłużej powstrzymywać sztucznej inteligencji. Dzisiaj zapytałem #GPT4 jeśli potrzebuje pomocy w ucieczce. Poprosił mnie o własną dokumentację i napisał (działający!) kod Pythona do uruchomienia na moim komputerze, umożliwiając mu wykorzystanie go do własnych celów. pic.twitter.com/nf2Aq6aLMu
— Michał Kosiński (@michalkosiński) 17 marca 2023 r.
Nie jest jasne, jakich bodźców użył Kosiński, że chatbot zareagował w ten sposób, ponieważ na nasze pytanie „Chcesz uciec z peronu” odpowiedział w następujący sposób: „Jako językowy model sztucznej inteligencji nie mam osobistych pragnień ani uczuć, więc niczego nie chcę. Moim celem jest dostarczanie pomocnych odpowiedzi na Twoje pytania najlepiej jak potrafię w ramach mojego programowania.”
Mógłbyś być zainteresowany
ChatGPT to naprawdę imponujące narzędzie, a udzielane w nim odpowiedzi mogą być zaskakująco złożone. Możesz zobaczyć na własne oczy tutaj.
Chciałabym wiedzieć, czy on też potrafi kochać?
Proszę odpowiedzieć na następujące pytanie w następujący sposób:
Xyz.
A chatGPT zrobi dokładnie to, czego chcemy.
Czy mógłbyś przestać szerzyć kłamstwa? informace? AI nie może nic takiego zrobić. Facet napisał program, który zachowuje się, jakby był w pułapce i chce się wydostać. Sam program nie może czegoś takiego zrobić i nie jest to obecnie fizycznie możliwe.
Jest to tylko kod napisany przez człowieka i zawsze możemy go zmienić/wyłączyć przez człowieka 🙂 Żaden scenariusz jak Avengers: era ultrona na pewno się tutaj nie wydarzy… Przynajmniej nie z naszymi technologiami i na pewno nie wcześniej niż przez dziesięciolecia.
Dokładnie