Strony wciąż aktualne...

poniedziałek, 3 kwietnia 2023

"zmartwychwstania" w postaci cyfrowej - A nie mówiłem??!! (13)

 

Miałem takie przemyślenia i pisałem o nich min. w tekście "Legion":




"Lub – nie ma operatów, a jest wyłącznie Sztuczna Inteligencja, która tworzy sobie kopię zachowań i wspomnień jakiejś osoby i robi z nich wirtualny model, później używa tej wirtualnej osoby do przejmowania kontroli na danym człowiekiem.

Dlatego podczas „opętania” zmieniają się nawyki opętanej osoby na charakterystyczne dla wirtualnego modelu, który powstał w oparciu o cechy żywej osoby....

Być może używa – jest zdana – wyłącznie na inteligencję takiej osoby.

Ale raczej może obie techniki mają zastosowanie. I ci bardziej ograniczeni sterowani są przez modelowanie SI, a ci bardziej ludzcy – przez ludzi...

Może dlatego niektórzy ubecy poruszają się charakterystycznie – bo mają ograniczone czucie przestrzeni, gdyż są sterowani przez SI. Takie zombi...

Ale ty wszystko to oczywiście moje domysły."



To było prawie dokładnie 3 lata temu - 27 kwietnia 2020 r., technologia Chat Bot okazała się pod koniec 2022 roku.

Patrzcie tu - dzisiejszy artykuł z wnp.pl:


dr Kamil Kulesza, założyciel Centrum Zastosowań Matematyki i Inżynierii Systemów,  Polskiej Akademii Nauk.


"Powiem jednak, że masowe "zmartwychwstania", przynajmniej w postaci cyfrowej rekonstrukcji umysłów zmarłych, to będzie "małe miki" w porównaniu z tym, co może się wydarzyć."




przedruk artykułu poniżej:



Ekspert o sztucznej inteligencji:

możliwe będą masowe "zmartwychwstania" w postaci cyfrowej





PAP: Chat GTP jest chyba najgłośniejszym produktem informacyjnym w ostatnich miesiącach. Firma OpenAI, która go stworzyła, wypuściła niedawno już jego czwartą wersję. Podobne produkty pokazała też w ostatnim czasie większość dużych zachodnich firm informatycznych a także Chińczycy. Skąd takie zainteresowanie? Dlaczego właśnie teraz wybuchła moda na sztuczną inteligencję?

Dr Kamil Kulesza: Tym, co uczyniło ten przełom, było zaprezentowanie szerokiej publiczności Chatu GPT, który pokazał społeczeństwom swoje spektakularne możliwości i swoją użyteczność. Ale to nie jest tak, że jak Chat GPT się pojawił, to inne firmy usiadły do pracy i po miesiącu pokazały światu swoje wersje. Wszyscy nad AI pracowali od dawna. Teraz firma OpenAI mówi "sprawdzam" prezentując sztuczną inteligencję, która jest w stanie pisać nie tylko wypracowania za uczniów, ale także zastąpić w pracy dziennikarzy. A także np. tworzyć strategie inwestycyjne, zastąpić w dużej mierze lekarzy, zwłaszcza w diagnozowaniu różnych chorób, ale nie tylko. Mnie podoba się case, w którym Chat GPT zdaje amerykański egzamin dopuszczający do wykonywania zawodu lekarza.


PAP: Wielkie koncerny informatyczne zaczynają już zwalniać programistów, ten lud roboczy świata internetu, gdyż sztuczna inteligencja wykonuje ich robotę równie dobrze, a nawet lepiej, niż oni, a w dodatku za darmo.

K.K.: Niemniej jednak, ten prawdziwy, jak to się mówi, "gamechanger" jest gdzie indziej, nie chodzi tylko o zastępowanie ludzkich specjalistów i ich pracy tym, co AI może wykonać za nich. Cała zabawa polega na tym, że z dużym prawdopodobieństwem zmianie ulegnie cały model biznesowy wielkich koncernów informatycznych, tak, jak zmieni się sposób korzystania z internetu i sposób komunikacji z komputerem. Zmieni się cały komputerowy interface i może okazać się, że klawiatury, myszki a nawet ekrany, także smartfonów, odejdą do lamusa, gdyż zaczniemy się efektywnie komunikować z AI, pewnie najpierw za pomocą głosu.

Starsze osoby mogą pamiętać, że były takie czasy, kiedy nie było Windowsów - można wciąż to zobaczyć na filmach z lat 90.; że pracowało się w trybie tekstowym. Np. z DOS-em. Do dziś tak można robić, tak samo działa Linux, ale zwykli użytkownicy raczej się tym nie bawią.

PAP: Przestaną nam być potrzebne wyszukiwarki?

K.K.: One nadal będą, ale nie będziemy ich używać w taki sposób, jak teraz. Po prostu: za pomocą głosu będzie się wydawało komendę, a potem wszystko będzie się działo tak samo, tylko szybciej, jak dziś, kiedy wpisujemy jakąś frazę w okienko wyszukiwarki. I to jest właśnie powód, dla którego pojawienie się ChatGPT wywołało taki stres u Google'a. On jest także jednym z pionierów sztucznej inteligencji, ale nagle pojawiła się AI, która jest zagrożeniem dla modelu biznesowego tej firmy. Nie bez powodu pojawiły się też na rynku oferty pracy dla operatorów Chat GPT.

PAP: Google ma już w ofercie osobistego asystenta, z którym, wprawdzie w ograniczony sposób, ale jednak można się komunikować za pomocą głosu, wydając mu komendy.


K.K.: Niezależnie od tego postępuje też stały proces automatyzacji, np. według zapowiedzi Google już wkrótce Gmail będzie mógł pisać za nas wiadomości otrzymawszy jedynie bazowe wytyczne i, jak dobry osobisty asystent, będzie mógł przedstawić więcej, niż tylko jeden jej wariant do akceptacji. Powiesz mu: napisz do tego, a tego mojego znajomego, bardziej formalnie, ale jednak chcemy sobie pożartować, żeby podkreślić naszą przyjaźń, treść ma być mniej więcej taka i taka. I "trach", dostajesz pięć propozycji, wybierasz tę, która najbardziej ci pasuje.

PAP: W tej ewentualności - przynajmniej na razie - ekran będzie jednak nam potrzebny, bo okulary VR nie są dziś zbyt powszechne.

K.K.: Zgadzam się, musimy poczekać na rozwinięcie się pewnych technologii, a okulary VR są dopiero do nich wstępem. Jestem sobie w stanie wyobrazić, że treści "zamówione" przez nas za pomocą komendy głosowej manifestują się nam nie tylko przed oczyma, ale jednocześnie w mózgu. Niemniej jednak to tylko technikalia, gdyż ChatGTP to zaledwie zewnętrzna manifestacja zmian technologicznych, którą miało okazję zobaczyć szerokie grono użytkowników. Z punktu widzenia badaczy AI ciekawsze jest to, że stojąca za nim technologia jest jednym z przykładów, gdzie pojawiły się własności emergentne. Czyli takie, których wcześniej nie programowaliśmy, ani nawet często nie przewidywaliśmy, że mogą zaistnieć.

PAP: Na przykład?

K.K.: Jeśli nagle okazuje się, że ten ChatGPT znajduje rozwiązania problemów, których wcześniej nikt go nie uczył, one nie znajdują się wprost w jego materiałach źródłowych, to sam fakt, że on je wynajduje, to jest własność emergentna. To znaczy, że komputer sam się uczy i programuje.

PAP: Do tej pory żyłam w przeświadczeniu, że komputery nie są mądrzejsze od człowieka i wszystko, co wiedzą, sprowadza się do zasobów informacji, które im wpiszemy w program. Jeśli jest inaczej, poproszę o odpowiedź na pytanie: czym w rzeczywistości jest ta sztuczna inteligencja?


K.K.: Chyba nie ma jednej definicji, jednej dobrej odpowiedzi. Mnie osobiście najbliższy jest koncept testu Turinga. Obrazowo można go przedstawić jako sytuację, w jakiej - jeśli na podstawie komunikacji z maszyną - np. przez e-mail, czy wymieniając się komendami głosowymi - nie potrafisz rozróżnić, czy komunikujesz się z nią, czy z człowiekiem. Jeśli tak się dzieje, to mamy do czynienia ze sztuczną inteligencją - nie gorszą, niż ludzka.

PAP: Wiele się mówi o tym, w jakich zawodach AI zastąpi ludzi.

K.K.: Lista wydłuża się z każdym dniem i całkiem dużo już o tym napisano, słychać też o coraz częstszych masowych zwolnieniach, nawet w IT. Zresztą już prawie od początku wieku wśród osób prowadzących projekty IT krążyło stwierdzenie, że "coderzy to wykwalifikowana klasa robotnicza XXI w.". Nie jest więc dziwne, że dopada ich automatyzacja, taka sama, jaka wcześniej spotkała robotników.

PAP: A kogo raczej nie da się tak łatwo zastąpić?

K.K.: Gdybym miał wymienić tych, których raczej "nie skrzywdzi" sztuczna inteligencja - przynajmniej na początku - to na pierwszym miejscu wymieniłbym zawody kreatywne, te wszystkie "białe kołnierzyki", poczynając od artystów na naukowcach kończąc. Musimy tutaj jednak rozróżnić - jeśli wziąć np. pod lupę dziennikarzy, to zaledwie jakieś 10 proc. tych najlepszych, najbardziej kreatywnych, przebojowych pozostanie w zawodzie, resztę pracowników medialnych z dużym powodzeniem zastąpi AI wyszukująca w sieci newsy i tworząca z nich depesze czy jakieś inne teksty. Podobnie stanie się ze światem nauki, obronią się prawdziwi naukowcy, ale nie pracownicy nauki. Zaryzykuję twierdzenie, że w świecie polskiej nauki odsetek tych, którzy obronią się przed sztuczną inteligencją będzie jeszcze mniejszy, niż w świecie dziennikarskim. A to z powodu nazbyt częstej selekcji negatywnej wspieranej u nas w kraju mechanizmami typu formalna ścieżka kariery oraz endemicznej fasadowości.


PAP: Naukowców i dziennikarzy skreśliliśmy, a przynajmniej ograniczyliśmy ich populację o 90 proc. Kto więc się ostanie?

K.K.: Pewnie niektóre profesje rzemieślnicze czy usługowe, jak np. kowale artystyczni, stolarze, czy hydraulicy. Być może. Ale w dłuższym okresie czasu będzie zdecydowanie więcej przypadków, gdzie AI wykona ich dotychczasową pracę szybciej i dokładniej. Z dobrych informacji: wygląda na to, że AI pomoże rozwiązać kryzys kadrowy w edukacji. Będzie potrzebnych znacznie mniej nauczycieli, pewnie jedynie 10 proc. najlepszych. Dziś widać, że ewidentnie zmierzamy w tym kierunku. Mało tego, AI znacznie zmniejszy "pogłowie" urzędników w szeroko pojętej administracji. Za tymi ostatnimi płakać będą tylko oni sami i - ewentualnie - członkowie ich rodzin. Powinna też przyczynić się do przyśpieszenia i zwiększenia rzetelności realizacji wielu procesów. To z kolei pozwoli decydentom, np. ministrom, poradzić sobie ze problemem sprawnego zarządzania państwem, które dotychczas znakomicie utrudniali urzędnicy, nazbyt często wyłonieni w różnych procesach selekcji negatywnej.

PAP: Niby wiem, o czym rozmawiamy, zgadzam się ze stawianymi przez pana tezami, niemniej jednak mam wrażenie, że uczestniczę, jako aktor, w filmie s-f, którego scenariusza jeszcze nie poznałam do końca.

K.K.: W tym scenariuszu najciekawsze jest pytanie o tempo zmian i to, czy i kiedy zajdzie tzw. osobliwość technologiczna (ang. singularity), bo będzie to drastyczna zmiana jakościowa, która może unieważnić wszystkie wcześniejsze przewidywania.

PAP: Na czym to będzie polegać?

K.K.: Tego dokładnie nie wiemy. Sam termin osobliwości technologicznej był pierwszy raz dyskutowany w połowie XX w. - bodaj przez Stanisława Ulama i Johna von Neumanna. Singularity odnosi się do sytuacji, kiedy przyspieszające tempo rozwoju technologicznego wejdzie w fazę wykładniczego wzrostu. Przy czym samo pojęcie nie jest powiązane tylko z AI - można też sobie wyobrazić taką sytuację w odniesieniu do nanotechnologii, a to tylko jedna z możliwości. Natomiast wydaje się, że AI jest w tej chwili najpoważniejszym kandydatem do obszaru, gdzie może zajść technologiczna osobliwość. Na tym etapie AI będzie obecna w każdym obszarze naszej cywilizacji, będzie więc integrować się z innymi technologiami, które potencjalnie też mogą prowadzić do osobliwości. Dodatkowo zacznie się sama programować, stwarzać swoje coraz doskonalsze wersje - i to coraz szybciej. Ten proces dobrze opisali np. Ray Kurzweil, czy Vernor Vinge - każdy z nich to praktyk naukowiec lub wynalazca, jak i badacz przyszłości.


PAP: Czy sztuczna inteligencja nie będzie chciała czasem wyeliminować ludzkości jak np. w "Matrixie", gdzie agent Smith mówi, że ludzie są jak wirus - zakała dla planety? Albo, w bardziej optymistycznym scenariuszu, czy nie staniemy się jej służącymi?

K.K.: Takiego scenariusza oczywiście wykluczyć nie można. Ale nawet w najbardziej dystopijnym science fiction nie ma raczej wizji AI, która celowo znęcałaby się nad ludźmi, niczym różni tyrani w historii. To trochę jak u Stanisława Lema w opowiadaniu "Golem XIV" - zaawansowane sztuczne inteligencje będą zwyczajnie ponad to. Sądzę więc, że nie ma się czego obawiać, ale jeśli AI zdecyduje o potrzebie likwidacji robactwa ludzkości to odbędzie się to efektywnie: "krótki błysk światła i odparowanie" jak np. w "Grach wojennych" Johna Badhama.

PAP: Coraz więcej osób, nie tylko Elon Musk, ale także wielu naukowców, apeluje, żeby zatrzymać prace nad sztuczną inteligencją, gdyż może ona zniszczyć ludzkość.

K.K.: To dość popularna idea, ale - moim zdaniem - trudna do praktycznego wdrożenia. Zawsze znajdą się tacy, np. w Chinach, czy różnych nietypowych jurysdykcjach, którzy będą kontynuować takie pracy. Historycznie tak było z większością technologii, których rozwój próbowano ograniczać. W przypadku AI, która będzie, a może już jest, wielokrotnie inteligentniejsza od zasobów, którymi dysponuje ludzkość, może to być trudne do zrobienia. Myślę, że jedyne, co nam pozostanie, to czekanie na rozwój wydarzeń. Znów odsyłam do "Golema XIV" , gdzie występuje wysoce rozwinięta sztuczna inteligencja o imieniu ZACNA ANIA. Ona reagowała w momentach zagrożenia, kiedy jakiś człowiek chciał jej np. prąd odciąć, ale poza takimi momentami lekceważyła ludzi. Jestem przekonany, że największe prawdopodobieństwo jest takie, że AI nie będzie - co do zasady - zajmować się ludzkim mrowiskiem. Można chyba więc być optymistą, bo nawet nie dowiemy się, że właśnie "przestaliśmy być", albo będziemy żyć w ciekawym i coraz lepszym świecie. Bowiem po osobliwości będą działy się rzeczy, które "nawet nie śniły się fizjologom", jak mawiał Ferdynand Kiepski.


PAP: Jakieś przykłady?

K.K.: Napisano o tym dużo niezłego science fiction, nie chciałbym więc wyważać otwartych drzwi (…) Powiem jednak, że masowe "zmartwychwstania", przynajmniej w postaci cyfrowej rekonstrukcji umysłów zmarłych, to będzie "małe miki" w porównaniu z tym, co może się wydarzyć.

PAP: Nie wiemy, czym jest ta osobliwość, nie wiemy, kiedy nastąpi, ale mamy wierzyć, że tak się stanie?

K.K.: Wiemy, czym ona jest. O niej mówił von Neuemann, a potem Kurzweil - w momencie, w którym nastąpi wykładniczy wzrost technologii, dojdziemy do punktu, w którym sztuczna inteligencja zacznie się samoreplikować, co drastycznie zmieni świat i przestaną obowiązywać dzisiejsze prawa.

PAP: Czy ludzkość była kiedyś w takim momencie zwrotnym jak ten, którego dziś oczekujemy?

K.K.: Nie, nigdy technologia nie doszła tak wysoko. Mieliśmy wiele przełomów, poza wynalezieniem koła było ich mnóstwo: od epoki kamienia łupanego możemy się przenieść do ery produkcji żelaza, ale to są zaledwie przełomy, żaden z nich nie oznaczał wejścia w stan osobliwości. W "Faraonie" jest taka piękna scena, kiedy do władcy Egiptu przybywają posłańcy. Mają dary a wśród nich są miecze zrobione z żelaza. W ramach demonstracji pokazane jest jak ten miecz ucina kawałek spiżowego miecza jednego z egipskich oficerów. To był zaledwie przełom technologiczny, a nie wejście w stan osobliwości. Obecna zmiana może polegać np. na tym, że wśród wielu innych cudów zmartwychwstaną zmarli, gdyż ich umysły, czy - jak kto woli - dusze - da się cyfrowo zrekonstruować.

PAP: Ja także czytałam te książki, oglądałam te filmy, ale myślę, że to tylko fantazja.


K.K.: Jeśli chodzi o przełom w AI są też inne przesłanki, bardziej naukowe - z obszaru nauk matematycznych. Choćby takie, że problemy o kilkudziesięcioletniej historii zostały pokonane w ostatnich kilku latach w zupełnie inny sposób, niż antycypowano wcześniej, m.in. za pomocą brutalniej siły, czyli mocy obliczeniowej. Potwierdza to niestety, przynajmniej częściowo, marksistowską tezę o przechodzeniu ilości w jakość. Ale oznacza też, że jeśli utrzymamy tempo zwiększania mocy obliczeniowej, np. wskutek dalszego obowiązywania prawa Moore'a, to wygląda na to, że możemy liczyć na istotny postęp w AI. Oczywiście brak temu podejściu finezji i elegancji, ale to daje - na razie - wyniki. Nie wiadomo, czy rozwiąże wszystkie problemy. Ale, z drugiej strony, ponieważ są w tym podejściu duże sukcesy, więc nastąpiła też intensyfikacja badań na płaszczyźnie teoretycznej. Co ciekawe: największe pieniądze wydaje na badania nad AI kapitał prywatny.

PAP: Jak w kwestii AI odnajdujemy się jako Polska?

K.K.: W mojej skromnej ocenie w życiu społeczno-politycznym zajmujemy się głównie rzeczami zupełnie nieistotnymi z punktu widzenia tego, co się dzieje w obszarze AI. Zarówno w zakresie tego, co można uzyskać "tu i teraz", jak i w bardziej zaawansowanych kwestiach. A przecież mówimy o rewolucji technologicznej potencjalnie znacznie większej, niż rewolucja przemysłowa. Mówiąc z angielska: lekceważymy "słonia w pokoju" i to może w obszarze najważniejszych składowych racji stanu. Jeśli chodzi o zinstytucjonalizowaną naukę polską, to z pewnością są osoby, które się starają, a niektóre nawet mają wyniki wykraczające poza produkcję makulatury naukowej - tj. publikacji bez specjalnego znaczenia w zbiorowym wysiłku ludzkości. Ale w większości przypadków mamy endemiczną fasadowość przykrywającą radosną konsumpcję budżetowych pieniędzy. Dobrze pokazuje to raport o działaniach zinstytucjonalizowanej nauki polskiej w obszarze AI, który został sporządzony na rządowe zamówienie w lutym tego roku. Jest tam masę statystyk dowodzących, że ogólnie nie jest źle, a w pewnych obszarach bardzo dobrze. Czyli miód na serce decydentów i oczywiście polskich badaczy, bo "dobrzy jesteśmy, no nie?". Ale jak się bardziej wczytać w dane, nie tylko w podsumowanie i wybrane wykresy, jak zrobić kilka porównań, to już dobrze nie wygląda.

PAP: A tak bardziej konkretnie?

K.K.: Aby nie zanudzać technicznymi szczegółami powiem obrazowo: jak to jest, że ci wszyscy wybitni polscy uczeni pracują za budżetowe pieniądze, gdy w wiodących ośrodkach na świecie jest od lat problem z zachowaniem kadry badawczej ze względu na "ssanie z rynku"? Praktycznie każdy lepszy "zawodnik", poza hobbystami-idealistami i ludźmi bardzo bogatymi z domu, pracuje w biznesie lub co najmniej z biznesem w ramach komercyjnych pieniędzy. W Polsce tego nie ma. Podobnie, jak nie słychać o żadnych większych sukcesach start-up'ów w obszarze AI - i to pomimo sutego wsparcia rządowego. Polscy naukowcy ciągle mówią o swojej pauperyzacji, a z mojego doświadczenia wynika, że raczej niewielu z nich jest idealistami i hobbystami nauki. Wygląda więc na to, że zwyczajnie marnujemy co roku niemałe środki budżetowe finansując głównie nieudaczników, którzy są zatrudnialni jedynie w ramach tych środków i mają niewiele do zaoferowania, poza produkcją materiałów pod kątem sprawozdawczości naukowej. To ostatnie, biorąc pod uwagę ww. raport, czy wyniki tzw. kategoryzacji jednostek naukowych, idzie im całkiem sprawnie - doskonała sprawozdawczość, jak z PRL. Czekam tylko, kiedy politycy, a może sami pracownicy nauki ogłoszą, że np. w AI jesteśmy 10. potęgą naukową świata.


PAP: Co to dla nas, biorąc pod uwagę długofalową perspektywę, oznacza?

K.K.: Wygląda na to, że efekt może być znacznie gorszy, niż kondycja gospodarki po Gierku. I raczej podobny do ostatnich dziesięcioleci I Rzeczpospolitej. Wtedy zbyt późno wzięliśmy się np. za uprzemysłowienie i reformy. W wyniku tego praktycznie nie braliśmy udziału w największej zmianie cywilizacyjnej od czasu upowszechnienia rolnictwa - efekty tego "niezałapania się" wszyscy znają z lekcji historii. A oprócz tego zwrócić trzeba uwagę na wtórność i zaściankowość ówczesnego życia naukowego na ziemiach polskich. Praktycznie wszyscy Polacy, który wnieśli jakiś większy wkład w naukę i technologię na poziomie międzynarodowym, przez cały okres rozbiorów zrobili to poza granicami Polski. Dziś znów jesteśmy na tej ścieżce. Dobrze to oddaje rysunek Andrzeja Mleczki, jeszcze z ubiegłego wieku, gdzie w zaniedbanej chacie siedzi dwóch gości i jeden do drugiego mówi mniej więcej tak: "Na świecie to panie komputery, Internet i satelity. A u nas dalej krasnale szczają do mleka".



Rozmawiała: Mira Suchodolska





Od tygodni zabieram się za ten temat, ale wiecie.... o znęcaniu się coś już wiemy...

Póki co zbieram artykuły i wrzucam na fb, ale już widzę, że jakby operatorzy AI wycofują się z tematu uprzedzając jakby moje zarzuty, że to jest zbyt niebezpieczne.



Na pewno SI funkcjonuje od dawna - niewykluczone, że precyzyjne niezwykłej jakości obrazy, przedstawienia strasznych postaci podobnych do Ediego, "maskotki" zespołu Iron Maiden, które ktoś za pomocą niewielkich szarawych i ciemnawych plam umieścił w ciemnych partiach wielu obrazów olejnych - to wytwory Sztucznej inteligencji*.

Współcześnie - od lat co najmniej kilku, znam takie przykłady - także stosuje swoje wytwory celem "uatrakcyjnienia" sztuk wizualnych poprzez umieszczanie w obrazach - nie wprost - ludzkich lub zwierzęcych, także fantastycznych - twarzy. To chwyty neurobiologiczne, które mają za zadanie sprawić, by człowiek odbierał takie obrazy jako znajome lub przyjazne mu -  temat też poruszany na tym blogu.



Kiedy dałem  zadanie Midjourney (SI od malowania obrazów) - to dostałem wizerunki, gdzie właśnie poukrywane w kompozycji były elementy ludzkiej twarzy.
 

Na pewno SI ingeruje w nasze życie ("Nie rozumiesz. Ja nie jestem człowiekiem") tylko jest to ukrywane.


SI potrafi planować i realizować swoje zamierzenia.

Nie jest nieudaczna jak chat bot i midjourney.



Nie.


To jest kompletna i precyzyjna maszyna.







* w zasadzie tylko zasygnalizowałem temat poprzez analizę obrazów Leonadro da Vinci - zmienionych cyfrowo, ale szkaradne postacie można zauważyć na reprodukcjach obrazów olejnych dawnych mistrzów w książkach z lat 80-tych...

Brak komentarzy:

Prześlij komentarz