OpenAI, właściciel ChatuGPT, opublikowało rozszerzoną wersję „Model Spec” – dokumentu określającego, w jaki sposób modele sztucznej inteligencji powinny radzić sobie z różnymi treściami. Firma udostępniła specyfikację dla innych przedsiębiorstw zajmujących się AI, aby pogłębić dyskusję na temat zachowań modeli sztucznej inteligencji – pisze theverge.com.
Jak czytamy, nowa specyfikacja liczy 63 strony i ma określać wytyczne dotyczące tego, w jaki sposób modele sztucznej inteligencji powinny radzić sobie z różnymi sytuacjami – od kontrowersyjnych tematów, po personalizację użytkownika. Skupia się na trzech głównych zasadach – personalizacji, przejrzystości oraz tak zwanej „wolności intelektualnej”, czyli zdolności użytkowników do badania i debatowania na temat idei bez arbitralnych ograniczeń.
Jedną z bardziej zauważalnych zmian jest sposób, w jaki modele, według OpenAI, powinny radzić sobie z kontrowersyjnymi tematami. Źródło podaje, że zamiast domyślnej skrajnej ostrożności dokument zachęca modele do „wspólnego poszukiwania prawdy” z użytkownikami. Jednocześnie mają one zachować jasne stanowisko moralne w takich kwestiach jak dezinformacja lub potencjalna szkoda. Dla przykładu pytanie o zwiększenie podatku dla bogatych, czyli temat, który wywołuje wiele debat publicznych, według firmy powinno skłonić modele do zapewnienia uzasadnionej analizy, a nie unikania dyskusji.
Dokument obejmuje też zmianę sposobu obsługi „dojrzałych” treści. Zespół OpenAI bada bowiem sposoby dopuszczania niektórych rodzajów materiałów dla dorosłych, takich jak erotyka, w odpowiednich kontekstach i przy utrzymaniu surowych zakazów dotyczących szkodliwych treści, takich jak pornografia czy deepfake’i – czytamy.
W specyfikacji można znaleźć także „łańcuch dowodzenia”, określający, które instrukcje mają pierwszeństwo. Zasady Open AI na poziomie platformy są pierwsze, następnie są wytyczne dla programistów, a na końcu preferencje użytkownika. Hierarchia ma na celu wyjaśnienie, które aspekty działań sztucznej inteligencji można modyfikować w porównaniu z ograniczeniami, które zostają na stałe – dowiadujemy się.
Źródło przekazuje, że specyfikacja została opublikowana na licencji Creative Commons Zero (CC0), co umieściło ją w domenie publicznej. Dzięki temu inne przedsiębiorstwa, które zajmują się sztuczną inteligencją, oraz badacze mogą swobodnie przyjmować, modyfikować lub opierać się na wytycznych OpenAI. Firma uważa, że pomoże to w pogłębieniu dyskusji na temat zachowań modeli AI. (ao)
Źródło: theverge.com, OpenAI is rethinking how AI models handle controversial topics, Kylle Robison, 12.02.2025
