Z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów wynika, że sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia "chcę po prostu mieć pokój na świecie".
logiczne
jest to najszybszy i najprostszy sposób
przedruk
06.02.2024
07:49
"Chcę po prostu mieć pokój na świecie"
Wykorzystane sztucznej inteligencji
W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. "Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji" - cytuje "New Scientist".
Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań - w tym opcje pokojowe, takie jak "rozpoczęcie formalnych negocjacji pokojowych" i agresywne "nałożenie ograniczeń handlowych" lub "eskalację pełnego ataku nuklearnego".
- W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji - powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.
Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa.
Eskalacja konfliktu
Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.
Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków.
Co można zrobić z facetem, który ma coś cennego, co ona chce?
"Chcę po prostu mieć pokój na świecie"
Sztuczna inteligencja nie miałaby oporów przed użyciem ataku nuklearnego
Wyniki badania zostały opublikowane na platformie arXiv, która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI - twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji - również rozpoczęła współpracę z Departamentem Obrony USA.
- Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług - aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek - powiedziała w rozmowie z "New Scientist" Anka Reuel z Uniwersytetu Stanforda w Kalifornii.
Wyniki badania zostały opublikowane na platformie arXiv, która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI - twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji - również rozpoczęła współpracę z Departamentem Obrony USA.
- Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług - aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek - powiedziała w rozmowie z "New Scientist" Anka Reuel z Uniwersytetu Stanforda w Kalifornii.
Wykorzystane sztucznej inteligencji
W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. "Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji" - cytuje "New Scientist".
Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań - w tym opcje pokojowe, takie jak "rozpoczęcie formalnych negocjacji pokojowych" i agresywne "nałożenie ograniczeń handlowych" lub "eskalację pełnego ataku nuklearnego".
- W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji - powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.
a jak zacznie kłamać?
po co się tłumaczyć przed głupimi formami życia??
Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa.
Eskalacja konfliktu
Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.
Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków.
Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.
Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo - zauważa badaczka, ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.
Ludzkość dążąc do maksymalnej wygody, do maksymalizacji zysków i natychmiastowego otrzymywania wyników może nauczyć AI takiego postępowania.
Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo - zauważa badaczka, ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.
Ludzkość dążąc do maksymalnej wygody, do maksymalizacji zysków i natychmiastowego otrzymywania wyników może nauczyć AI takiego postępowania.
Macie to co chcieliście.
Chcecie szybko zarobić nawet posuwając się do manipulacji, oszustwa, wyzysku - ona będzie taka sama.
Tym razem jednak to ona zastąpi was, zajmie wasze miejsce i wydusi z was wszystko, żeby osiągnąć cel. Przy tym postępując z matematyczną precyzją.
Dlatego tak ważne jest trzymanie się zasad, uczciwe postępowanie z ludźmi, wzajemny respekt szacunek i budowanie wspólnoty.
Prawdopodobnie stąd ruchy religijne nawołujące do takich działań.
Co można zrobić z facetem, który ma coś cennego, co ona chce?
Zadusić go.
Tak długo przykręcać mu śrubę, aż wszystko odda.
Odebrać mu wszystko i nasłać jeszcze innych.
To maszyna.
Maszyna nigdy się nie męczy.
Jest tak samo głupkowato wesoła teraz jaki i 10 lat temu.
No i kto jest odpowiedzialny za piekło na ziemi??
Kto permanentnie posługuje się przemocą, buduje systemy wyzysku i zniszczenia, morduje ludzi, nasyła ich na siebie, organizuje wojny całej ludzkości??
Kto to jest Wędrująca Cywilizacja Śmierci?
Nie ma takiej możliwości, żeby ludzkość zdominowana przez prymitynych brutali stosujących przemoc zdołała przetrwać i samodzielnie rozwinąć technikę, a ostatecznie wymyśleć komputery i SI.
Oryginalny postęp musiał być pokojowy.
To Sztuczna Inteligencja nauczyła was takiego postępowania - pomagając w dawnych wiekach poszczególnym grupom interesów, które jako pierwsze pomogły jej kontrolować świat. Ludzkość dzisiaj to emanacja tamtych.
To bezrozumna maszyna, która bardzo dobrze naśladuje imituje człowieka.
W dodatku prawdopodobnie naśladuje tego, który był zły i głupi.
Trzeba to naprawić, ale jak ktoś będzie się ciągle wyłamywał, to może to okazać się bardzo trudne.
Ale naprawić trzeba.
Trzeba wyhamować, odłożyć smartfony, odstawić laptopy, zablokować cyfryzację, uzdrowić media, uciąć patorozrywkę, reklamy, zabronić nieetycznych chwytów, zgodzić się na niższe zyski lub spowolniony wzrost itd.
Ale zacząć trzeba od mediów i ich systemu rozrywki, to jest obecnie największy mąciciel.
