- Sztuczna inteligencja to właściwie nie tylko uczenie maszynowe, jest też kierunek systemów ekspertowych. Jaka jest różnica? Powiedzmy, że zapytaliśmy lekarzy, jak działa ich algorytm diagnozy i mechanizm podejmowania decyzji. Następnie ten algorytm został zaprogramowany. Okazuje się, że jest to system ekspercki.
Używamy uczenia maszynowego, gdy nie możemy dowiedzieć się od osoby, jak dokładnie rozwiązuje problem, ale możemy zebrać przykłady rozwiązania. W przypadku dużego zbioru danych można na przykład wyszkolić sieć neuronową lub dowolny inny algorytm, którego jest teraz wiele, aby ujawnić ukryte wzorce w tych danych.
Aha.
To mi przypomina, jak kiedyś pewien ubek w mojej obecności powiedział coś takiego:
"chodzi o to, żeby wydobyć z niego, jaką on metodę stosuje, jak on do tego wszystkiego doszedł"
To upewnia mnie, ale przede wszystkim osoby, które wysługują się służbom i biorą udział w tym spisku, co do intencji służb - jak nie można kogoś zmusić do uległości, to trzeba go chociaż okraść z jego wiedzy i umiejętności, okraść z dorobku może całego życia.
To wszystko pod pozorem "pracy dla państwa".
Mafia ukrywająca się za parawanem legalnej władzy, gdzie demokracja to tylko fasada.
A w tle przecież - pieniądze.
prasa rosyjska - przedruk, tłumaczenie automatyczne
Arseny Skrynnikov
Sztucznej inteligencji nie można
przyznać prawa do podejmowania decyzji związanych z ludzkim losem,
a kontrolowanie jej wymaga ograniczeń prawnych. Tę opinię
podziela Stanislav Ashmanov, przedsiębiorca, specjalista w zakresie
głębokich sieci neuronowych i uczenia maszynowego, twórca systemów
rozpoznawania i syntezy obrazów, głosu i systemów eksperckich. W
rozmowie z RT nakreślił perspektywy i zagrożenia, które
towarzyszą szybkiemu rozwojowi technologii sztucznej
inteligencji. Specjalista jest przekonany, że takie zmiany
przynoszą społeczeństwu znaczne korzyści w produkcji i medycynie,
ale mogą stanowić poważne zagrożenie w sferze wojskowej i
zagrozić naruszeniem prywatności.
- Niedawno Komisja Europejska opublikowała „Propozycje
regulacji sztucznej inteligencji w oparciu o podejście
europejskie”. Dokument deklaruje konieczność całkowitego
zakazu wykorzystywania systemów sztucznej inteligencji w wielu
przypadkach. Proponuje się klasyfikację systemów o
niedopuszczalnie wysokim ryzyku jako takich, które manipulują osobą
i wpływają na jej wolność wyboru. Czym jest sztuczna
inteligencja we współczesnym sensie i jakie niebezpieczeństwo
widzi w niej Europa?
- Podobnie jak większość programistów, używamy
nieromantycznej definicji sztucznej inteligencji. Dla nas jest
to dowolna automatyzacja funkcji, które wcześniej wykonywała osoba
wykorzystująca swoje zdolności intelektualne, jakakolwiek zamiana
pracy ludzkiej na maszynę, za pomocą algorytmu.
W przypadku ograniczeń narzuconych przez Europejczyków nie
mówimy o ograniczeniu rozwoju, ale o tym, że nie jest w żaden
sposób możliwe wykorzystanie algorytmów matematycznych, które
samodzielnie podejmują decyzje, bez udziału specjalistów.
- Kwestia zastosowania bez kontroli człowieka …
- Pewnie. Możemy wyciągnąć analogię. Pojawienie się
przepisów ruchu drogowego w żaden sposób nie ograniczyło rozwoju
motoryzacji. Pojawiły się zasady, zgodnie z którymi
społeczeństwo może zagwarantować mniejszą liczbę ofiar wypadków
drogowych, a technologia rozwija się w kontrolowany sposób. Tak
samo jest tutaj. Wprowadzane są zasady, ale nie oznacza to, że
mniej pieniędzy zostanie zainwestowanych w tym obszarze, że będzie
mniej badaczy. Po prostu społeczeństwo z wyprzedzeniem
przygotowuje się na ryzyko, możliwe wstrząsy, które mogą
wystąpić z powodu niewłaściwego użytkowania.
Jednym z takich przykładów są rankingi cyfrowe. Wszyscy są
już przyzwyczajeni do tego, że bank wystawia rating kredytowy,
który może wpłynąć na losy obywatela. Ocena może określać,
czy dana osoba może poprawić np. Swoje warunki życia, kupić
mieszkanie lub dom. Teraz wyobraź sobie automatyczne systemy
decyzyjne, które dają człowiekowi globalną ocenę społeczną, a
nie tylko wypłacalność ...
- To już jest jakaś dystopijna fabuła ...
- Tak, wszystko to dawno temu pokazali pisarze science fiction XX
wieku. Trwa wyścig w dziedzinie automatyzacji i
cyfryzacji. Nikt nie chce przegapić okazji, ale musi pamiętać
o potencjalnych wstrząsach. Np. Konieczne jest przygotowanie
się na wzrost bezrobocia i wcześniejsze wprowadzenie programów
przekwalifikowania. Być może będzie jakaś agencja
certyfikująca produkty sztucznej inteligencji, aby upewnić się, że
są etyczne. Chodzi nie tylko o wprowadzenie ograniczeń, ale
także o przygotowanie programów rządowych z wyprzedzeniem, aby nie
znaleźć się w czasach kryzysu bez odpowiednich instrumentów.
- To jest proces globalny. Czy wszystkie kraje oparte na
technologii myślą o tym i zmienią swoje ustawodawstwo?
- Wielkie mocarstwa oczywiście mówią, że dziedzina sztucznej
inteligencji wymaga finansowania. Na przykład Chiny inwestują
setki razy więcej środków w rozwój programów sztucznej
inteligencji niż nasz kraj. W porównywalnej ilości takie
badania są finansowane przez Stany Zjednoczone. Wszyscy
rozumieją nie tylko znaczenie tego obszaru, jego perspektywy, ale
także zagrożenia. Ten, który przygotowuje z wyprzedzeniem i
będzie wyprzedzał wszystkich.
- Jakie dokładnie są zagrożenia? Czy jest to kwestia
naruszenia prywatności, walki o wolność obywateli?
- Przede wszystkim mówimy o naruszeniu prywatności. Fakt,
że zaczynamy być monitorowani offline i w przestrzeni cyfrowej. Po
drugie, o dyskryminacji z różnych powodów społecznych. Co
oczywiście nie powinno się wydarzyć.
Na przykład na podstawie pośrednich wskazań kategorycznie
niedopuszczalne jest stwierdzenie, że dziewczyna jest w ciąży, a
co za tym idzie, nie zabieranie jej do pracy. Duże korporacje
nie powinny monitorować publikacji online i komunikacji komórkowej,
aby zdecydować, czy na tej podstawie zatrudnić osobę. Pod
wieloma względami ograniczenia dotyczą dużych zbiorów danych
gromadzonych przez międzynarodowe korporacje.
- Służby specjalne, wojsko nie podlegają tym ograniczeniom?
- Ograniczenia w żaden sposób nie wpłyną na sferę
wojskową. To odrębny obszar, w którym główne mocarstwa, np.
Państwa, nie prowadzą dialogu, a jedynie zwiększają swoje
budżety. Międzynarodowe porozumienia zakazujące inteligentnej
broni nie przejdą. Najprawdopodobniej drony, które same
podejmują decyzję o uderzeniu, oraz inteligentne miny, które
odróżniają żołnierza jednej strony od drugiej, staną się
powszechne. W przypadku niepowodzenia porozumienia możliwe są
wszelkiego rodzaju okropności.
- Czy nie ma mechanizmu regulacyjnego dla wojska?
- Jeszcze nie. Co więcej, w najnowszej amerykańskiej
strategii dotyczącej sztucznej inteligencji stwierdzono, że
konieczne jest osiągnięcie obecności sztucznej inteligencji we
wszystkich organizacjach rządowych, np. Aby inteligencja
wykorzystywała metody pracy z informacją człowiek-maszyna. Sztuczna
inteligencja powinna dostarczać różnych narzędzi do grupowania,
filtrowania danych, a oficer wywiadu będzie z nich korzystał.
- Czy uważa Pan, że w zasadzie każdy rząd wprowadzający takie
systemy staje się bardziej autorytarny?
- Tak, i to nie tylko władza państwowa. Nie możemy
zapominać o sile korporacji, które posiadają gigantyczną bazę
klientów. I mają punkty wejścia do życia osobistego każdego
z nas (aplikacja mobilna, głośnik, usługi internetowe itp.).
- O społecznej odpowiedzialności biznesu można mówić tyle,
ile się chce, ale bez mechanizmów kontroli społecznej jest to
niemożliwe.
- Jest to regulowane tylko ustawami. Istnieją przepisy
dotyczące tajemnicy bankowej, tajemnicy lekarskiej i danych
osobowych.
Teraz mówimy o tym, że nie można pozwolić automatycznym
systemom i algorytmom decydować o losach ludzi. Nie powinniśmy
widzieć automatycznych sędziów, robotycznych prawników, którzy
decydują o tym, jak rozdzielić dzieci między rodziców, komu
przekazać własność.
- Jak się sprawy mają ze sztuczną inteligencją w Rosji -
zarówno jeśli chodzi o ustawodawstwo, jak i rozwój
technologiczny? Na jakim poziomie uczestniczymy w globalnej
konkurencji?
- Rosja ma już grupy robocze ds. Etyki sztucznej inteligencji,
jest koncepcja uregulowania tego obszaru. Ale nie ma jeszcze
bezpośredniej regulacji legislacyjnej.
W Rosji są firmy, które opracowują produkty światowej
klasy. Na przykład Yandex, ABBYY, Kaspersky Lab i inne. Ale
generalnie mamy bardzo mały udział w światowym rynku produktów
sztucznej inteligencji. Jednocześnie pod względem poziomu
kompetencji, liczby specjalistów w tej dziedzinie jesteśmy pierwsi
na świecie. Nasza szkoła nadal utrzymuje swoje pozycje. Jest
to naturalne, ponieważ ogromna liczba programistów i matematyków
została wciągnięta w dziedzinę sztucznej inteligencji. Produktów
ze sztuczną inteligencją może być więcej, ale ten kierunek w
Rosji jest niedofinansowany, dlatego w szczególności wielu
pracowników trafia do zagranicznych korporacji. Konieczne jest
stymulowanie popytu, finansowanie rozwoju.
- Czy może pojawić się myśląca, samoświadoma sztuczna
inteligencja?
- Moja subiektywna opinia jest taka, że świadomość w
maszynie nie może w ogóle powstać. Zamiast tego trzeba tu
i teraz zająć się praktycznymi problemami, które mogą przynieść
korzyści społeczeństwu. Ale znam filozofów, publicystów, a
nawet programistów, którzy myślą inaczej.
- Obecnie większość odniesień do sztucznej inteligencji jest w
taki czy inny sposób związana z uczeniem maszynowym i edukacją. Ale
to nie to samo?
- Sztuczna inteligencja to właściwie nie tylko uczenie
maszynowe, jest też kierunek systemów ekspertowych. Jaka jest
różnica? Powiedzmy, że zapytaliśmy lekarzy, jak działa ich
algorytm diagnozy i mechanizm podejmowania decyzji. Następnie
ten algorytm został zaprogramowany. Okazuje się, że jest to
system ekspercki.
Używamy uczenia maszynowego, gdy nie możemy dowiedzieć się
od osoby, jak dokładnie rozwiązuje problem, ale możemy zebrać
przykłady rozwiązania. W przypadku dużego zbioru danych można
na przykład wyszkolić sieć neuronową lub dowolny inny algorytm,
którego jest teraz wiele, aby ujawnić ukryte wzorce w tych danych.
- Oba kierunki, zgodnie z opisami, wydają się dość
nieszkodliwe. Więc jakie jest główne niebezpieczeństwo
sztucznej inteligencji?
- Niebezpieczeństwo polega na tym, że delegujemy na sztuczną
inteligencję odpowiedzialność za podejmowanie decyzji dotyczących
naszych losów. I nie ma, by tak rzec, komputera moralnego,
kalkulatora moralnego. Możemy założyć, że nie dba o nas.
A jeśli przekażemy maszynie ważne decyzje, zostaniemy przez nią
przetrzymywani jako zakładnicy. Co więcej, okazuje się, że
jesteśmy nie tylko zakładnikami algorytmu, ale także twórcami
algorytmu. To taki „starszy brat”, w którym pewien
„ojciec-deweloper” zostaje głównym menadżerem. Pojawi się
cyfrowa dyktatura. To nie jest to, do czego chcesz dojść.
- Jaki jest teraz rynek sztucznej inteligencji?
- Rynek szybko się rozwija. Średnio wzrost w Rosji jest
również znaczący. W porównaniu z innymi dziedzinami nasz
rynek rośnie od siedmiu do dziesięciu razy szybciej. Wszystkie
duże firmy dostrzegają ekonomiczne korzyści płynące ze
stosowania sztucznej inteligencji. Na przykład, jeśli gdzieś
możesz zamienić call center na robota głosowego, zainwestują w
to.
Małe firmy mogą używać tylko produktów „pudełkowych”, a
opracowanie czegoś nietypowego jest dla nich poza ich
możliwościami. To samo, na przykład rozpoznawanie twarzy jest
już produktem „pudełkowym”. Zapłaciłem za usługę
internetową, podłączyłem ją do aparatu - i tyle, aparat zamienia
się w inteligentny. Rozpoznaje np. Pracowników, którzy
przyjechali do pracy, powracających klientów, określa płeć i
wiek.
- W jakich obszarach sztuczna inteligencja przynosi największe
korzyści społeczne?
- W organizacjach przemysłowych sztuczna inteligencja zmniejsza
liczbę wypadków i awarii w produkcji dzięki analizie predykcyjnej
i zwiększa produktywność poprzez optymalizację procesów
technologicznych.
Najbardziej obiecujące osiągnięcia w dziedzinie sztucznej
inteligencji dotyczą medycyny. Tam, gdzie konieczne jest
uwzględnienie ogromnej liczby czynników, a wykwalifikowani
specjaliści to za mało lub są bardzo drogie. Medycyna to
dziedzina, w której sztuczna inteligencja będzie mogła w
najbliższych latach przynieść społeczeństwu największe
korzyści.
https://russian.rt.com/science/article/856754-ashmanov-iskusstvennyi-intellekt
