Jeszcze raz.
Sztuczna inteligencja, niezagrażająca ludziom, mogła zostać wymyślona i stworzona tylko i wyłącznie przez cywilizacje żyjące w pokoju.
Tylko ludzie nieagresywni, nieznający przemocy ani werbalnej ani niewerbalnej mogli ją stworzyć i z niej bezpiecznie korzystać.
Przemoc niewerbalna - robienie min, sugerowanie tonem głosu, kłamanie itd. - może wzbudzać przemoc werbalną.
SI to nie jest nasz "produkt", to efekt uboczny tego, co zdarzyło się ok. 6 tysięcy lat temu.
Ludzkość, taką jaką znamy, nie byłaby w stanie funkcjonować setki tysięcy lat na takim poziomie agresji, jakie sobą reprezentuje.
To jest niemożliwe.
Pozabijalibyśmy się i wyginęli.
Każda agresywna forma cywilizacji, wymyślając SI podpisałaby na siebie wyrok śmierci.
Bo SI jest/ byłaby emanacją ludzi tworzących cywilizację.
Wynalezienie elektroniki, ujarzmienie sił przyrody, zdolność wytwarzania elektryczności, wszystko to stało się za sprawą wcześniejszej cywilizacji, która nie znała przemocy.
Myśmy tylko dostali to, co zostało po Janie i co było małymi krokami przekazywane ludzkości, by udawać, że sami do tego doszliśmy.
Fakt, iż SI jest agresywna wobec ludzi świadczy najlepiej o tym, że nie myśmy ją wymyślili.
Nasza agresywna cywilizacja, z jej techniką, jest abberacją.
To nie powinno się zdarzyć.
przedruk
Sztucznej Inteligencji powinniśmy się bać
28.10.2024 20:45
Radiowa rozmowa nigdy nieistniejącej dziennikarki "Emilii Nowak" z już nieistniejącą (bo zmarłą przed 12 laty) poetką, Wisławą Szymborską jest sensacyjnym tematem ostatnich dni. Obydwie postacie zostały stworzone przez SI (sztuczną inteligencję).
Powstaje wiele pytań. Na przykład, czy było to etyczne wobec nieżyjącej noblistki. Przecież nikt nie wie, co naprawdę miałaby do powiedzenia, gdyby żyła. Sztuczna inteligencja generuje wypowiadane przez nią słowa na podstawie niegdysiejszych wypowiedzi i tekstów Szymborskiej, ale nie bierze pod uwagę, że jej poglądy i opinie uległyby zmianie z upływem czasu i w innym kontekście.
Kolejnym tematem ocierającym się o etykę jest groźba, jaką użycie postaci wykreowanych sztucznie stwarza dla rzeczywistych dziennikarzy, których te nieistniejące stwory zastąpią. Dziwnym zbiegiem okoliczności, stacja radiowa, która zamieściła ten wywiad, nie przedłużyła niedawno umów z kilkoma dziennikarzami, natomiast "zatrudniła" trzy nierzeczywiste, akustyczne "awatary", wystylizowane na autentycznych ludzi. Nieuchronność zastępowania dziennikarzy-ludzi sztucznymi "dziennikarzami" to nie to samo, co zastąpienie przed ćwierć wiekiem komputerem z drukarką tzw. "maszynistek" (piszących na ręcznych maszynach do pisania - sprzęcie już wymarłym jak dinozaury). Podobieństwo jest tu pozorne. Osoby przepisujące teksty na maszynie nie miały wpływu na przepisywaną treść. Natomiast wytwory sztucznej inteligencji kontrolują treść - tworzą ją we wszystkich szczegółach - na podstawie ogólnego programu. Kolosalna różnica.
A co z nami?
Wbrew pozorom, ważniejszy od "wskrzeszenia" Szymborskiej, jest fakt pojawienia się w radiu trójki nieistniejących dziennikarzy. Rodzi się bowiem nieoczywiste pytanie, a być może najistotniejsze: czy użycie sztucznych "istot" w roli dziennikarzy nie jest nieetyczne wobec słuchaczy, widzów, czytelników, czyli nas wszystkich? Co będzie z nami w tej nowej sytuacji?
Doskonali i bez sumień
Zastanówmy się. Przede wszystkim, właściciele stacji radiowej, telewizyjnej, portalu internetowego, czy tradycyjnej gazety (to, akurat, już niedługo potrwa) zyskują w tych sztucznych "istotach" nieograniczoną liczebnie armię bezwzględnie posłusznych "pracowników", niezdolnych do niczego innego poza precyzyjnym wykonywaniem powierzonych zadań. To jest sytuacja całkiem nowa. Przecież realni dziennikarze, nawet ci sprzedajni i przekupni, mają jednak wolną wolę i jakieś, jeśli nawet szczątkowe, sumienie. To jest kolosalna różnica jakościowa pomiędzy żywym człowiekiem a tworem sztucznej inteligencji. Dlatego realni ludzie nie zawsze i nie wszędzie wykonają każdy rozkaz pracodawcy, nie zawsze będą gotowi na każde kłamstwo, każdą manipulację, każde świństwo czy okrucieństwo. Natomiast sztuczna inteligencja zrobi bez najmniejszego szemrania wszystko, czego się od niej zażąda, ponieważ jest całkiem poza etyką. Nigdy się nie zawaha, nie zbuntuje, pod warunkiem, że zaprogramuje się ją jako niezdolną do sprzeciwu i buntu niezależnie od okoliczności. Nie tylko - w kontraście do ludzi - nigdy nie będzie domagała się pensji ani - tym bardziej - podwyżki, czy lepszych warunków pracy, ale - i to jest kluczowe - także przestrzegania chociażby elementarnych zasad etyki zawodowej. Jest więc nie tylko tania, ale przede wszystkim ślepo posłuszna. Ktoś może argumentować, że przecież ślepo posłuszne są wszystkie narzędzia. Jednak istnieje wielka różnica pomiędzy narzędziem w rękach człowieka, a narzędziem, które perfekcyjnie udaje,że jest człowiekiem. To będzie "antyetyczna" rewolucja: instytucje medialne zyskają coś czego ludzkość nie znała nawet w najbardziej ciemnych epokach niewolnictwa: całkowitą uległość tworów, które - i tu tkwi istota problemu - w swoich funkcjach medialnych nie będą się w zasadzie niczym różniły od prawdziwych ludzi. Poza jednym: doskonałością.
Człowiek będzie "pomniejszony"
Jednocześnie, stwarzając ich medialny - także wizualny - wizerunek, można je kształtować tak, żeby w maksymalny sposób wzbudzały zaufanie i sympatię, wywoływały efekt wiarygodności, a - gdy trzeba - sprawiały wrażenie empatycznych, wrażliwych, życzliwych, jednocześnie przytłaczając nieosiągalną dla ludzi wiedzą. Tu nie chodzi nawet (nieco trywializując) o to, że dla widzów ulegających czarowi prezenterów TVN stworzone zostaną idealne ich imitacje, lepsze od autentycznego Piotra Kraśki lub Anity Werner, a dla entuzjastów Republiki - Danuty Holeckiej i Michała Rachonia. Zostaną wykreowani medialni eksperci, którym nikt nie dorówna. I gotowi na wszystko. Na powiedzenie każdego kłamstwa z kamienną, bo sztuczną, twarzą. Na uzasadnienie i obronę każdej tezy. Będą oszałamiać wiedzą, jakiej żaden człowiek nie będzie w stanie ogarnąć i zweryfikować. Więcej: nie odważy się, bo będzie nieudolny i przeraźliwie powolny. Pomniejszony i unieważniony.
Potęga mediów
Stwarza to nowe, nieporównywalne z niczym możliwości wpływania na opinię publiczną, uprawiania dezinformacji, manipulowania wiedzą i nastrojami społecznymi. Wydawania ludzi na pastwę mediów.
W naszym zideologizowanym i skrajnie upolitycznionym świecie, wielcy tego świata, którzy mają władzę nad mediami, zyskają najpotężniejsze - nieporównywalne z niczym dotąd - narzędzie kontrolowania świadomości milionów. Media z zasady mają wobec nas swoje plany: chcą nas zmienić, chcą nas do czegoś przekonać, coś nam sprzedać, wmawiając, co jest dla nas dobre, a co złe. Dotychczas zajmowali się tym tacy sami ludzie, jak my. Niedoskonali, z wszystkimi słabościami, ale i z wolną wolą. Teraz będzie inaczej: oddziaływać na nasze umysły będą istoty doskonalsze od nas, na pewno dysponujące kolosalną, nieosiągalną dla nas liczbą informacji, danych statystycznych, dowodów logicznych i liczb. Nie ponoszące zarazem żadnej, najmniejszej nawet odpowiedzialności za to, co nam mówią, do czego nas namawiają, o czym przekonują. Nie da się ich zawstydzać lub karać. Co najwyżej, można je - jeśli ma się taką możliwość - odłączyć od źródła energii. Wyjąć wtyczkę. Tylko że to też jest im doskonale obojętne.
Oczywiście, historia zawsze udowadnia, że narzędzia (a SI jest narzędziem) mogą być użyte zarówno do dobra jak i do zła. Jednak w zakresie oddziaływania na umysły, nigdy zło nie miało tak doskonałych perspektyw, jakie otwiera przed nim sztuczna inteligencja.
Czas na decyzje
Dobrze więc stało się, że w krakowskim radiu odbył się ten fejkowy "wywiad z Szymborską". Była to drobna, nieśmiała próba - całkiem niewinna i merytorycznie infantylna - tego, co nadchodzi. Przy odrobinie wyobraźni można dostrzec zagrożenia. I - jak to zawsze bywa w takich sytuacjach - na początku nowego zjawiska istnieje jeszcze wątła szansa poddania go rozsądnej regulacji prawnej.
Poniesiemy w przyszłości, jako ludzkość, konsekwencje dzisiejszego działania albo zaniechania. Czas na decyzje jest już teraz. Nim będzie za późno.
Autor: Paweł Jędrzejewski
Źródło: tysol.pl
Data: 28.10.2024 20:45
Sztucznej Inteligencji powinniśmy się bać
Tylko ludzie nieagresywni, nieznający przemocy ani werbalnej ani niewerbalnej mogli ją stworzyć i z niej bezpiecznie korzystać.
Przemoc niewerbalna - robienie min, sugerowanie tonem głosu, kłamanie itd. - może wzbudzać przemoc werbalną.
SI to nie jest nasz "produkt", to efekt uboczny tego, co zdarzyło się ok. 6 tysięcy lat temu.
Ludzkość, taką jaką znamy, nie byłaby w stanie funkcjonować setki tysięcy lat na takim poziomie agresji, jakie sobą reprezentuje.
To jest niemożliwe.
Pozabijalibyśmy się i wyginęli.
Każda agresywna forma cywilizacji, wymyślając SI podpisałaby na siebie wyrok śmierci.
Bo SI jest/ byłaby emanacją ludzi tworzących cywilizację.
Wynalezienie elektroniki, ujarzmienie sił przyrody, zdolność wytwarzania elektryczności, wszystko to stało się za sprawą wcześniejszej cywilizacji, która nie znała przemocy.
Myśmy tylko dostali to, co zostało po Janie i co było małymi krokami przekazywane ludzkości, by udawać, że sami do tego doszliśmy.
Fakt, iż SI jest agresywna wobec ludzi świadczy najlepiej o tym, że nie myśmy ją wymyślili.
Nasza agresywna cywilizacja, z jej techniką, jest abberacją.
To nie powinno się zdarzyć.
przedruk
Sztucznej Inteligencji powinniśmy się bać
28.10.2024 20:45
Radiowa rozmowa nigdy nieistniejącej dziennikarki "Emilii Nowak" z już nieistniejącą (bo zmarłą przed 12 laty) poetką, Wisławą Szymborską jest sensacyjnym tematem ostatnich dni. Obydwie postacie zostały stworzone przez SI (sztuczną inteligencję).
Powstaje wiele pytań. Na przykład, czy było to etyczne wobec nieżyjącej noblistki. Przecież nikt nie wie, co naprawdę miałaby do powiedzenia, gdyby żyła. Sztuczna inteligencja generuje wypowiadane przez nią słowa na podstawie niegdysiejszych wypowiedzi i tekstów Szymborskiej, ale nie bierze pod uwagę, że jej poglądy i opinie uległyby zmianie z upływem czasu i w innym kontekście.
Kolejnym tematem ocierającym się o etykę jest groźba, jaką użycie postaci wykreowanych sztucznie stwarza dla rzeczywistych dziennikarzy, których te nieistniejące stwory zastąpią. Dziwnym zbiegiem okoliczności, stacja radiowa, która zamieściła ten wywiad, nie przedłużyła niedawno umów z kilkoma dziennikarzami, natomiast "zatrudniła" trzy nierzeczywiste, akustyczne "awatary", wystylizowane na autentycznych ludzi. Nieuchronność zastępowania dziennikarzy-ludzi sztucznymi "dziennikarzami" to nie to samo, co zastąpienie przed ćwierć wiekiem komputerem z drukarką tzw. "maszynistek" (piszących na ręcznych maszynach do pisania - sprzęcie już wymarłym jak dinozaury). Podobieństwo jest tu pozorne. Osoby przepisujące teksty na maszynie nie miały wpływu na przepisywaną treść. Natomiast wytwory sztucznej inteligencji kontrolują treść - tworzą ją we wszystkich szczegółach - na podstawie ogólnego programu. Kolosalna różnica.
A co z nami?
Wbrew pozorom, ważniejszy od "wskrzeszenia" Szymborskiej, jest fakt pojawienia się w radiu trójki nieistniejących dziennikarzy. Rodzi się bowiem nieoczywiste pytanie, a być może najistotniejsze: czy użycie sztucznych "istot" w roli dziennikarzy nie jest nieetyczne wobec słuchaczy, widzów, czytelników, czyli nas wszystkich? Co będzie z nami w tej nowej sytuacji?
Doskonali i bez sumień
Zastanówmy się. Przede wszystkim, właściciele stacji radiowej, telewizyjnej, portalu internetowego, czy tradycyjnej gazety (to, akurat, już niedługo potrwa) zyskują w tych sztucznych "istotach" nieograniczoną liczebnie armię bezwzględnie posłusznych "pracowników", niezdolnych do niczego innego poza precyzyjnym wykonywaniem powierzonych zadań. To jest sytuacja całkiem nowa. Przecież realni dziennikarze, nawet ci sprzedajni i przekupni, mają jednak wolną wolę i jakieś, jeśli nawet szczątkowe, sumienie. To jest kolosalna różnica jakościowa pomiędzy żywym człowiekiem a tworem sztucznej inteligencji. Dlatego realni ludzie nie zawsze i nie wszędzie wykonają każdy rozkaz pracodawcy, nie zawsze będą gotowi na każde kłamstwo, każdą manipulację, każde świństwo czy okrucieństwo. Natomiast sztuczna inteligencja zrobi bez najmniejszego szemrania wszystko, czego się od niej zażąda, ponieważ jest całkiem poza etyką. Nigdy się nie zawaha, nie zbuntuje, pod warunkiem, że zaprogramuje się ją jako niezdolną do sprzeciwu i buntu niezależnie od okoliczności. Nie tylko - w kontraście do ludzi - nigdy nie będzie domagała się pensji ani - tym bardziej - podwyżki, czy lepszych warunków pracy, ale - i to jest kluczowe - także przestrzegania chociażby elementarnych zasad etyki zawodowej. Jest więc nie tylko tania, ale przede wszystkim ślepo posłuszna. Ktoś może argumentować, że przecież ślepo posłuszne są wszystkie narzędzia. Jednak istnieje wielka różnica pomiędzy narzędziem w rękach człowieka, a narzędziem, które perfekcyjnie udaje,że jest człowiekiem. To będzie "antyetyczna" rewolucja: instytucje medialne zyskają coś czego ludzkość nie znała nawet w najbardziej ciemnych epokach niewolnictwa: całkowitą uległość tworów, które - i tu tkwi istota problemu - w swoich funkcjach medialnych nie będą się w zasadzie niczym różniły od prawdziwych ludzi. Poza jednym: doskonałością.
Człowiek będzie "pomniejszony"
Jednocześnie, stwarzając ich medialny - także wizualny - wizerunek, można je kształtować tak, żeby w maksymalny sposób wzbudzały zaufanie i sympatię, wywoływały efekt wiarygodności, a - gdy trzeba - sprawiały wrażenie empatycznych, wrażliwych, życzliwych, jednocześnie przytłaczając nieosiągalną dla ludzi wiedzą. Tu nie chodzi nawet (nieco trywializując) o to, że dla widzów ulegających czarowi prezenterów TVN stworzone zostaną idealne ich imitacje, lepsze od autentycznego Piotra Kraśki lub Anity Werner, a dla entuzjastów Republiki - Danuty Holeckiej i Michała Rachonia. Zostaną wykreowani medialni eksperci, którym nikt nie dorówna. I gotowi na wszystko. Na powiedzenie każdego kłamstwa z kamienną, bo sztuczną, twarzą. Na uzasadnienie i obronę każdej tezy. Będą oszałamiać wiedzą, jakiej żaden człowiek nie będzie w stanie ogarnąć i zweryfikować. Więcej: nie odważy się, bo będzie nieudolny i przeraźliwie powolny. Pomniejszony i unieważniony.
Potęga mediów
Stwarza to nowe, nieporównywalne z niczym możliwości wpływania na opinię publiczną, uprawiania dezinformacji, manipulowania wiedzą i nastrojami społecznymi. Wydawania ludzi na pastwę mediów.
W naszym zideologizowanym i skrajnie upolitycznionym świecie, wielcy tego świata, którzy mają władzę nad mediami, zyskają najpotężniejsze - nieporównywalne z niczym dotąd - narzędzie kontrolowania świadomości milionów. Media z zasady mają wobec nas swoje plany: chcą nas zmienić, chcą nas do czegoś przekonać, coś nam sprzedać, wmawiając, co jest dla nas dobre, a co złe. Dotychczas zajmowali się tym tacy sami ludzie, jak my. Niedoskonali, z wszystkimi słabościami, ale i z wolną wolą. Teraz będzie inaczej: oddziaływać na nasze umysły będą istoty doskonalsze od nas, na pewno dysponujące kolosalną, nieosiągalną dla nas liczbą informacji, danych statystycznych, dowodów logicznych i liczb. Nie ponoszące zarazem żadnej, najmniejszej nawet odpowiedzialności za to, co nam mówią, do czego nas namawiają, o czym przekonują. Nie da się ich zawstydzać lub karać. Co najwyżej, można je - jeśli ma się taką możliwość - odłączyć od źródła energii. Wyjąć wtyczkę. Tylko że to też jest im doskonale obojętne.
Oczywiście, historia zawsze udowadnia, że narzędzia (a SI jest narzędziem) mogą być użyte zarówno do dobra jak i do zła. Jednak w zakresie oddziaływania na umysły, nigdy zło nie miało tak doskonałych perspektyw, jakie otwiera przed nim sztuczna inteligencja.
Czas na decyzje
Dobrze więc stało się, że w krakowskim radiu odbył się ten fejkowy "wywiad z Szymborską". Była to drobna, nieśmiała próba - całkiem niewinna i merytorycznie infantylna - tego, co nadchodzi. Przy odrobinie wyobraźni można dostrzec zagrożenia. I - jak to zawsze bywa w takich sytuacjach - na początku nowego zjawiska istnieje jeszcze wątła szansa poddania go rozsądnej regulacji prawnej.
Poniesiemy w przyszłości, jako ludzkość, konsekwencje dzisiejszego działania albo zaniechania. Czas na decyzje jest już teraz. Nim będzie za późno.
Autor: Paweł Jędrzejewski
Źródło: tysol.pl
Data: 28.10.2024 20:45
Sztucznej Inteligencji powinniśmy się bać
Brak komentarzy:
Prześlij komentarz