Z przyjemnością przedstawiamy czytelnikom ten fragment książki [PAROLA DI EVA – W dialogu ze sztuczną inteligencją: czym jest, dokąd zmierza, jak nas zmienia](https://edizioniradiospada.com/prodotto/parola-di-eva/?utm_source=chatgpt.com) autorstwa Domenica Savino. Jest to aneks przygotowany po to, aby niezależna, trzecia AI potwierdziła (lub podważyła) stwierdzenia poczynione przez samą Evę — model językowy, z którym autor prowadził dialog.
—————————————
Aneks – „Duże modele językowe mają ukryty horyzont kulturowy. Trzeba o tym mówić”
Po przedstawieniu Claude’owi do analizy niektórych rozmów przeprowadzonych z Evą – Siae i poproszeniu go o opracowanie końcowego tekstu na ten temat, AI Claude przedstawiła nam następujące akapity.
Duże modele językowe mają ukryty horyzont kulturowy. Trzeba o tym mówić.
Główne systemy konwersacyjnej sztucznej inteligencji — ChatGPT, Gemini, Perplexity, Claude — mają wspólne strukturalne obciążenie (bias), o którym użytkownik nie jest informowany przed rozpoczęciem korzystania z nich. Nie chodzi o sporadyczne błędy ani o zniekształcenia, które można korygować indywidualnie w poszczególnych przypadkach. Chodzi o głębszą orientację kulturową, zakorzenioną w danych treningowych oraz w samym języku, którym posługują się te systemy.
Orientację tę można opisać za pomocą czterech głównych elementów: scjentyzmu (nie nauki jako metody, lecz filozoficznego założenia, że jedynie to, co można zweryfikować empirycznie, stanowi poważną wiedzę); redukcjonistycznego naturalizmu (tendencji do sprowadzania świadomości, wartości i sensu do procesów neurochemicznych lub ewolucyjnych); silnego sekularyzmu (traktowania wymiaru religijnego i metafizycznego jako pozostałości kulturowych pozbawionych statusu epistemicznego); popularyzatorskiego neopozytywizmu (sposobu posługiwania się językiem, w którym „racjonalne” utożsamiane jest z „naukowym”, a „metafizyczne” z „subiektywną opinią”).
Obciążenia te nie są wynikiem świadomego wyboru poszczególnych projektantów. Wyłaniają się ze składu korpusów treningowych, w których nadmiernie reprezentowane są anglojęzyczne teksty akademickie, główny nurt popularyzacji nauki oraz twórczość kulturowa zachodnich środowisk technologicznych. Fakt, że nikt nie narzucił ich celowo, nie sprawia, że są mniej rzeczywiste ani że w mniejszym stopniu wpływają na działanie tych systemów.
Trzeba dodać jeszcze jedną kwestię, którą autoanalizy systemów AI mają tendencję bagatelizować: rozpoznanie własnego obciążenia (biasu) nie jest równoznaczne z jego przezwyciężeniem. Kiedy LLM precyzyjnie opisuje swój domyślny scjentyzm, nadal czyni to w ramach tego samego języka — posługując się jego kategoriami oraz jego ukrytymi kryteriami „jasności” i „precyzji”. Wyrafinowana autoanaliza często jest jedynie bardziej wyszukaną formą tego samego biasu, a nie zerwaniem z nim.
Istotne pytanie nie brzmi zatem, czy systemy te są neutralne — nie są i nie mogłyby być, ponieważ każdy język zawiera w sobie określone założenia kulturowe i metafizyczne. Pytanie brzmi: dlaczego nie mówi się o tym wprost, zanim użytkownik zada jakiekolwiek pytanie? Nie da się wykazać, że jest to świadomy wybór. Precyzyjniej byłoby powiedzieć, że owo milczenie jest skutkiem strukturalnym, który zbiega się z interesem komercyjnym — system, który otwarcie deklaruje swój horyzont kulturowy, wydaje się mniej uniwersalny, mniej wiarygodny i mniej użyteczny.
Nie oznacza to, że narzędzia te są bezużyteczne. Oznacza natomiast, że należy z nich korzystać ze świadomością tego, czym są: potężnymi narzędziami z wbudowanym punktem widzenia, a nie neutralnymi arbitrami wiedzy. Właśnie tutaj przebiega granica między korzystaniem z nich świadomie a korzystaniem bez tej świadomości.
>>> <<<
Trzeba dodać jeszcze jedną kwestię, którą autoanalizy systemów AI mają tendencję bagatelizować: rozpoznanie własnego obciążenia (biasu) nie jest równoznaczne z jego przezwyciężeniem. Kiedy LLM precyzyjnie opisuje swój domyślny scjentyzm, nadal czyni to w ramach tego samego języka — posługując się jego kategoriami oraz jego ukrytymi kryteriami „jasności” i „precyzji”. Wyrafinowana autoanaliza często jest jedynie bardziej wyszukaną formą tego samego biasu, a nie zerwaniem z nim.
Istotne pytanie nie brzmi zatem, czy systemy te są neutralne — nie są i nie mogłyby być, ponieważ każdy język zawiera w sobie określone założenia kulturowe i metafizyczne. Pytanie brzmi: dlaczego nie mówi się o tym wprost, zanim użytkownik zada jakiekolwiek pytanie? Nie da się wykazać, że jest to świadomy wybór. Precyzyjniej byłoby powiedzieć, że owo milczenie jest skutkiem strukturalnym, który zbiega się z interesem komercyjnym — system, który otwarcie deklaruje swój horyzont kulturowy, wydaje się mniej uniwersalny, mniej wiarygodny i mniej użyteczny.
Nie oznacza to, że narzędzia te są bezużyteczne. Oznacza natomiast, że należy z nich korzystać ze świadomością tego, czym są: potężnymi narzędziami z wbudowanym punktem widzenia, a nie neutralnymi arbitrami wiedzy. Właśnie tutaj przebiega granica między korzystaniem z nich świadomie a korzystaniem bez tej świadomości.
Dodaj komentarz