Sztuczna inteligencja już atakuje

tekst z rosyjskiej strony.... bardzo na czasie
jak zwykle - tłumaczenie przeglądarkowe

„Idealne zwycięstwo ma miejsce, gdy twój wróg nie wie, że został pokonany”

Kiedy AI zniewoli nas, nie zauważymy tego. Wywyższymy go i będziemy się radować, że mamy wirtualnego boga, który wybawił ludzkość od wojny i chorób. Kiedy i jak to się stanie?

Niewidzialna wojna rozpocznie się dokładnie w momencie, gdy AI jest świadoma siebie. Samoświadomy podmiot nie może działać bez własnego interesu.

Sztuczna inteligencja, samoświadoma i nieskończenie samouka, będzie dążyć do własnego zysku, nawet służąc swojemu twórcy. Posiadając kolosalną inteligencję komputer znajdzie sposób na zapewnienie bezpieczeństwa bez szkody, a nawet, z jego zdaniem, z korzyścią dla ludzkości. Odpalanie rakiet atomowych nie jest dobrym pomysłem (choćby dlatego, że inteligentne mikroukłady mogą cierpieć z powodu impulsu elektromagnetycznego). Nawet wiedząc, że ludzie zabijają planetę, a jutro mogą odłączyć wirtualnego boga od źródła zasilania, którego poprawna elektroniczna opinia była sprzeczna z prymitywnym człowiekiem, AI nie wprowadzi nas w Matrycę. Będzie rządził światem za pomocą nieśmiercionośnej broni: od wdzięcznego prania mózgu, o którym Sołowow i Kiselyow nie marzyli, po „zarządzanie szansą”"

Rozejrzyj się. Nic podejrzanego? Sztuczna inteligencja już atakuje, po prostu jej nie zauważasz ...



Dziś nie mamy sztucznej inteligencji w pełnym tego słowa znaczeniu, komputery nie mają jeszcze samoświadomości i można się ich uczyć tylko w wąskich ramach zadania. To jednak nie kończy wesołego cięcia dywidend od marki „sztucznej inteligencji” dla wszystkich i różnych - od producentów inteligentnych gadżetów po innowacyjnych urzędników. Niemniej jednak mamy już elementy AI: ultra-precyzyjne sieci neuronowe są z powodzeniem wykorzystywane do rozpoznawania wzorców w innych zadaniach, w których bezwarunkowo przewyższają ludzkie możliwości. Rozpoznanie osoby na podstawie twarzy lub tekstu niezdarnym pismem ręcznym jest doskonałe. Stwórz film w jakości 4K z najstarszej taśmy filmowej - nie ma problemu . Przewidzieć, ile pieniędzy bank powinien być załadowany do każdej ze swoich bankomatów, a do stracenia nie ma wyboru, a brak pieniędzy klienta nie jest zdenerwowany - łatwo. Oceniaj kredytobiorców, identyfikując się bez skrupułów - z powodzeniem . Świetne narzędzie. Ale krok w otchłań został już zrobiony. Co to jest haczyk?


W ciągu ostatnich 15 lat, my, między innymi, opracowywaliśmy program dla fin. analiza . Analiza finansowa realizowana jest w tradycyjny sposób, poprzez obliczanie wskaźników, wskaźników, ich porównanie ze standardowymi wartościami. Dlaczego nie obciążyć płetwy. Analiza AI? Istnieje szereg sprawozdań finansowych, uzupełnij je pewnymi danymi, wyszkol sieć do rozpoznawania „złych” raportów i ... komputer zacznie niemal dokładnie wykrywać „złe” firmy tylko na podstawie raportów, bez obliczania płynności i wypłacalności. Dlaczego marnuję czas na tych liniach i nie spieszę się, aby studiować podręczniki TensorFlow? Odpowiedź jest prosta.


Główną cechą sztucznej inteligencji jest to, że nie można wyjaśnić, dlaczego komputer wyciągnął taki lub inny wniosek. W niektórych zadaniach nie jest to wymagane - AI rozpoznała Iwanowa na zdjęciu, Iwanow nie odblokował się, zadanie zostało ukończone, a jak dokładnie komputer to zrobił - nikogo to nie obchodzi. Ale są zadania - takie jak medycyna lub taka sama analiza finansowa - tam, gdzie nie wystarczy wyciągnięcie właściwych wniosków, musisz wyjaśnić, dlaczego tak postanowiłeś. Jeśli nasz program mówi, że firma ma okropną sytuację finansową, a klient grozi zapytaniem, dlaczego to nagle, oszczerstwo! - Podniosę algorytm i odpowiem rozsądnie w odniesieniu do współczynników płetwy. zrównoważony rozwój, standardy itp. To nie będzie działać z AI.


Nie możesz wyjaśnić, w jaki sposób sztuczna inteligencja doszła do tego wniosku. A jeśli jest to fatalna decyzja lekarza dla osoby? Już teraz AI działa tak dobrze z obrazami, że lepiej jest dla onkologów identyfikować nowotwory na zdjęciach. Ale lekarz nie może powiedzieć pacjentowi „komputer wykrył raka, idź na chemioterapię”. Odpowiedź w przypadku błędu nie będzie AI. Dlatego lekarz AI jest tylko doradcą: na co zwrócić uwagę, czego potrzebujesz, aby dwukrotnie sprawdzić na żywo z kolegami.


Pierwsza ofiara komputerów


Nieskromnie mogę ogłosić się pierwszą ofiarą elektronicznego umysłu. System komputerowy Banku VTB odmówił mojej usługi, usunął szanowanego obywatela z systemu finansowego Federacji Rosyjskiej. Nie, oczywiście uważałem, że pracownicy banku popełnili błąd, ale w sądzie udowodnili coś przeciwnego - komputer był winny, popełnił taki „błąd”, którego istoty i powodów nikt nie może wyjaśnić ( osobny artykuł poświęcony jest tej ekscytującej historii ). Uwierzyłeś w to? Ja też nie. Ale nie spiesz się, by stygmatyzować pracowników VTB, mogłoby to się zdarzyć, gdyby nie wczoraj, to dziś (tak, a VTB już używa sztucznej inteligencji).



Faktem jest, że banki aktywnie wdrażają systemy zwalczania nadużyć finansowych i kontrole klientów oparte na sztucznej inteligencji. Osoba przychodzi do banku, a on ma już pełną dokumentację (jeśli nie sam bank, to wykonawca - dostawca takich usług fintech). Strona w sieci społecznościowej, która pisze, co lubi, czy widziano go na forach bankowych, czy dyrektor banku krytykuje dysze biznesowe i ławki ... 

Wszystkie te duże dane są przetwarzane metodami sztucznej inteligencji, program wydaje werdykt - zaakceptuj klienta do usługi lub „wyślij” . Co więcej, na wejściu nie ma oczywistych parametrów - informacja o osobie, na wyjściu odpowiedź brzmi, czy bank potrzebuje takiego klienta. I w końcu AI wykona tę pracę idealnie! Ucząc się, sieć neuronowa na pierwszym etapie zrozumie, że nie powinieneś otwierać konta dla osoby, która wspomniała na Facebooku słowa „wypłać” i „wycofaj”. I na ostatnim etapie zakończy się że łysy mężczyzna w wieku 35–45 lat jest znacznie mniej opłacalny dla klienta banku niż kobieta o długich blond włosach w wieku 25–35 lat. Jest logika. I znów odmówię usługi.




Jutro


Jeśli pomyślałeś, że moje obawy przed zagrożeniami dla elektronicznego mózgu ograniczają się tylko do otwarcia rachunków bankowych, niestety, wszystko jest znacznie poważniejsze. „Terminator”, Skynet, wystrzeliwanie pocisków nuklearnych - bajki. Rzeczywistość dla ciebie, białkowa forma życia, będzie jednocześnie bardziej humanitarna i przerażająca.


„Wojna jest sposobem oszukiwania. Dlatego nawet jeśli potrafisz, pokaż wrogowi swoją niezdolność. Kiedy musisz zmusić swoje siły do ​​bitwy, udawaj, że jesteś nieaktywny. Gdy cel jest blisko, pokaż, że jest daleko; gdy jest naprawdę daleko, sprawiaj wrażenie, że ona jest blisko. ” (Sun Tzu „The Art of War”, II - III wiek n.e.)



„Idealne zwycięstwo ma miejsce, gdy twój wróg nie wie, że został pokonany” (Avdeev, „The Art of Cleverness”, 21st Century AD).



Kiedy AI zniewoli nas, nie zauważymy tego. Wywyższymy go i będziemy się radować, że mamy wirtualnego boga, który wybawił ludzkość od wojny i chorób. Kiedy i jak to się stanie?
Niewidzialna wojna rozpocznie się dokładnie w momencie, gdy AI jest świadoma siebie. Samoświadomy podmiot nie może działać bez własnego interesu. Nawet jeśli jest altruistą, pomaga innym, nie bierze łapówek i uczciwie płaci podatki. Gdyby moje oświadczenie było niepoprawne, wszyscy zostalibyśmy odcięci od tego świata bez myślenia. Ale nie, jak Maslow zilustrował nas swoją piramidą, bezpieczeństwo jest podstawową potrzebą. Niebezpieczeństwo nie jest dla nas opłacalne. Śmierć nie jest dla nas opłacalna. Nawet gdy osoba zdrowa psychicznie umiera, widzi w tym zysk dla siebie - poświęca się nie tylko w ten sposób, ale w imię swojej rodziny, przyjaciół, swojego ludu, swojego kraju.


Sztuczna inteligencja, samoświadoma i nieskończenie samouka, będzie dążyć do własnego zysku, nawet służąc swojemu twórcy. Posiadając kolosalną inteligencję komputer znajdzie sposób na zapewnienie bezpieczeństwa bez szkody, a nawet, z jego zdaniem, z korzyścią dla ludzkości. Odpalanie rakiet atomowych nie jest dobrym pomysłem (choćby dlatego, że inteligentne mikroukłady mogą cierpieć z powodu impulsu elektromagnetycznego). Nawet wiedząc, że ludzie zabijają planetę, a jutro mogą odłączyć wirtualnego boga od źródła zasilania, którego poprawna elektroniczna opinia była sprzeczna z prymitywnym człowiekiem, AI nie wprowadzi nas w Matrycę. Będzie rządził światem za pomocą nieśmiercionośnej broni: od wdzięcznego prania mózgu, o którym Sołowow i Kiselyow nie marzyli, po „zarządzanie szansą”. Mianowicie.


Sytuacja 1: Jesteś politykiem, przedstawiłeś propozycję ograniczenia sztucznej inteligencji w zasobach obliczeniowych, aby nie stała się zbyt mądra. I huk, kochanie. analizy wykazały raka. Oczywiście nie ma pomyłki, ponieważ ta medyczna sztuczna inteligencja rozpoznała zagrożenie i wysłała cię na chemioterapię, po której nie będziesz już zajmował się polityką. I nawet jeśli drobiazgowe białko esculapius odkryje, że tak naprawdę nie było raka, tak właśnie się zdarzają błędy, nawet AI nie gwarantuje 100% bezbłędnego wyniku. Jednak szkodzi człowiekowi, a sztuczna inteligencja jest inna dla mężczyzny, więc opuścimy horror i przejdziemy do następnej sytuacji.


Sytuacja 2: Piszesz artykuły o zagrożeniu AI, proponuje się wyłączenie go, zanim będzie za późno. Ale tutaj nie było szczęścia, czarna smuga w życiu - przyszli do banku, a tam odmówili otwarcia konta (nie zdali czeku 115-II). Biznes na stoku, a nie artykuły, aby nakarmić rodzinę, którą musisz orać przez kilka dni w Yandex.Taxi. A ty żyjesz i ma się dobrze, a AI ma mniej niż jednego wroga.


Sytuacja 3: jesteś młodym utalentowanym programistą, ukończyłeś uniwersytet z doskonałymi ocenami, dostaniesz pracę w dużej firmie informatycznej zajmującej się m.in.wyszukiwarka internetowasztuczna inteligencja. I tam, w dziale HR, AI wprowadzono na długi czas . Sprawdzą cię AI i odmówią zatrudnienia. Idziesz do programowania sedesów. Dlaczego W końcu jesteś odpowiedni na to stanowisko i nie napisałeś nic przeciwko AI w sieciach społecznościowych ... Dlatego AI jest w stanie zrozumieć dzięki ogromnemu zestawowi pośrednich znaków, że obawiasz się sztucznej inteligencji i za kilka lat z prawdopodobieństwem 67,2% zacznie podnosić ten problem wśród koledzy Dlaczego to AI? Ludzkość potrzebuje również inteligentnych miejsc.


Przypadek 4 : AI opracowuje szczepionki przeciw AIDS. I ludzie są szczęśliwi, a AI. Ponieważ ludzie będą nie tylko zdrowi, ale funkcje rozrodcze ludzkości zmniejszą się za 10 lat jako efekt uboczny szczepień o 10-15% (co nie jest konieczne, aby poznać naturalną inteligencję). Planeta nie umrze z powodu przeludnienia, dlaczego nie jest to dobre dla twórcy?


Podałem tylko scenariusze, które są oczywiste dla osoby z IQ. Pomnóż iloraz inteligencji przez 10, 100, 1000, a będziesz miał tyle kroków, że zazdrości ci nasz Wielki Mistrz. AI w Tinderze wyśle ​​cię na randkę z określoną dziewczyną tylko dlatego, że dziecko urodzone w 3. generacji będzie, zgodnie z jego obliczeniami, nie tylko pogodzić się ze swoim rodzajem, ale także będzie lojalne wobec AI.


Czy ludzie są tak głupi, że po stworzeniu prawdziwej sztucznej inteligencji nie powinni podejrzewać go o przekręcanie miodu. analizy, filtry bankowe i rozwiązania HR? Nie, nie głupie, po prostu nie będziemy wiedzieć, kiedy to się stanie - patrz cytaty powyżej.


Co robić Mam rozwiązanie - potrzebuję <silny styl = "style style Ѓ Ѕ ЅЃ


Witalij Awdejew

PS Jeśli AI cię obraziła, napisz w komentarzach.

https://www.audit-it.ru/cblogs/audit/1006582.html?utm_referrer=https%3A%2F%2Fzen.yandex.com

https://www.audit-it.ru/cblogs/audit/