{"id":963,"date":"2024-03-08T14:26:17","date_gmt":"2024-03-08T14:26:17","guid":{"rendered":"https:\/\/digitalbabel.legal\/?p=963"},"modified":"2024-03-08T14:26:20","modified_gmt":"2024-03-08T14:26:20","slug":"czy-system-do-wykrywania-tekstow-generowanych-przez-chatgpt-to-system-ai-wysokiego-ryzyka","status":"publish","type":"post","link":"https:\/\/digitalbabel.legal\/digitalizacja\/czy-system-do-wykrywania-tekstow-generowanych-przez-chatgpt-to-system-ai-wysokiego-ryzyka\/","title":{"rendered":"Czy system do wykrywania tekst\u00f3w generowanych przez ChatGPT to system AI wysokiego ryzyka?"},"content":{"rendered":"\n<figure class=\"wp-block-image size-large\"><a href=\"https:\/\/digitalbabel.legal\/wp-content\/uploads\/2024\/03\/Firefly-20240301132940.png\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"585\" src=\"https:\/\/digitalbabel.legal\/wp-content\/uploads\/2024\/03\/Firefly-20240301132940-1024x585.png\" alt=\"\" class=\"wp-image-964\" srcset=\"https:\/\/digitalbabel.legal\/wp-content\/uploads\/2024\/03\/Firefly-20240301132940-1024x585.png 1024w, https:\/\/digitalbabel.legal\/wp-content\/uploads\/2024\/03\/Firefly-20240301132940-300x171.png 300w, https:\/\/digitalbabel.legal\/wp-content\/uploads\/2024\/03\/Firefly-20240301132940-768x439.png 768w, https:\/\/digitalbabel.legal\/wp-content\/uploads\/2024\/03\/Firefly-20240301132940-1536x878.png 1536w, https:\/\/digitalbabel.legal\/wp-content\/uploads\/2024\/03\/Firefly-20240301132940-2048x1170.png 2048w\" sizes=\"(max-width: 1024px) 100vw, 1024px\" \/><\/a><\/figure>\n\n\n\n<p id=\"ember545\">Niedawno rz\u0105dowy <a href=\"https:\/\/opi.org.pl\/\">O\u015brodek Przetwarzania Danych<\/a> udost\u0119pni\u0142 uczelniom rozwi\u0105zanie s\u0142u\u017c\u0105ce do wykrywania w pracach dyplomowych fragment\u00f3w wygenerowanych przez system sztucznej inteligencji. Ministerstwo Nauki i Szkolnictwa Wy\u017cszego Informacja poinformowa\u0142o o tym w ramach komunikatu zatytu\u0142owanego \u201e<a href=\"https:\/\/www.gov.pl\/web\/nauka\/jsa--promotor-sprawdzi-czy-student-korzystal-z-technologii-chatgpt\">JSA \u2013 promotor sprawdzi, czy student korzysta\u0142 z technologii ChatGPT\u201d.<\/a><\/p>\n\n\n\n<p id=\"ember546\">Rozwi\u0105zanie to jest opisane w nast\u0119puj\u0105cy spos\u00f3b:<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p><em>\u201eMetoda detekcji wdro\u017cona do systemu JSA opiera si\u0119 na hipotezie, \u017ce im wi\u0119ksza regularno\u015b\u0107 w&nbsp;tek\u015bcie, tym jest wi\u0119ksze prawdopodobie\u0144stwo, \u017ce zosta\u0142 on wytworzony przez model j\u0119zykowy. Za\u0142o\u017cenie takie ma swoje \u017ar\u00f3d\u0142o w zastosowanym algorytmie, kt\u00f3ry jest w stanie wygenerowa\u0107 tekst regularny i przewidywalny. \u2013&nbsp;Model zastosowany w JSA zosta\u0142 przeszkolony na du\u017cym zbiorze danych tekstowych. Jego dzia\u0142anie najpro\u015bciej wyt\u0142umaczy\u0107 stosuj\u0105c miar\u0119 Perplexity.\u201d<\/em><\/p>\n<\/blockquote>\n\n\n\n<p id=\"ember548\">Wzmianka o przeszkoleniu na du\u017cym zbiorze danych tekstowych sugeruje, \u017ce jest to rozwi\u0105zanie b\u0119d\u0105ce same systemem AI.<\/p>\n\n\n\n<p id=\"ember549\">Przyjmuj\u0105c zatem za\u0142o\u017cenie, \u017ce jest to system sztucznej inteligencji, spr\u00f3bujmy zastanowi\u0107 si\u0119, &nbsp;jak taki system by\u0142by zaklasyfikowany w \u015bwietle <a href=\"https:\/\/www.europarl.europa.eu\/meetdocs\/2014_2019\/plmrep\/COMMITTEES\/CJ40\/AG\/2024\/02-13\/1296003EN.pdf\">rozporz\u0105dzenia o sztucznej inteligencji<\/a> (AI Act). Rozporz\u0105dzenie co prawda jeszcze nie zosta\u0142o opublikowane, a jego wej\u015bcie w \u017cycie nast\u0105pi dopiero 2 lata po publikacji, tym niemniej moim zdaniem ju\u017c teraz warto zacz\u0105\u0107 si\u0119 przymierza\u0107 do stosowania tych przepis\u00f3w.<\/p>\n\n\n\n<h1 class=\"wp-block-heading\" id=\"ember550\">Klasyfikacja systemu AI<\/h1>\n\n\n\n<p id=\"ember551\">Moim zdaniem omawiany system by\u0142by systemem AI wysokiego ryzyka jako system AI stosowany w edukacji i przeznaczony do wykorzystywania w celu oceny efekt\u00f3w nauczania (Za\u0142\u0105cznik III.3.b do AI Act).<\/p>\n\n\n\n<p id=\"ember552\">Mo\u017cna unikn\u0105\u0107 klasyfikacji tego systemu jako systemu AI wysokiego ryzyka w przypadku uznania go za system, kt\u00f3ry nie stwarza znacz\u0105cego ryzyka szkody dla zdrowia, bezpiecze\u0144stwa lub praw podstawowych os\u00f3b fizycznych, w tym nie wp\u0142ywa w istotny spos\u00f3b na wynik procesu decyzyjnego.<\/p>\n\n\n\n<p id=\"ember553\">Zgodnie z art. 6.2a AI Act taka sytuacja zachodzi w szczeg\u00f3lno\u015bci w nast\u0119puj\u0105cych przypadkach:<\/p>\n\n\n\n<ul>\n<li>system AI wykonuje w\u0105skie zadanie proceduralne;<\/li>\n\n\n\n<li>system AI poprawia wynik wcze\u015bniej wykonanej przez cz\u0142owieka czynno\u015bci;<\/li>\n\n\n\n<li>system AI wykrywa wzorce decyzyjne lub odchylenia od wcze\u015bniejszych wzorc\u00f3w decyzyjnych i nie ma na celu zast\u0105pienia lub wp\u0142yni\u0119cia na wcze\u015bniej zako\u0144czon\u0105 ocen\u0119 cz\u0142owieka, bez odpowiedniej weryfikacji przez cz\u0142owieka;<\/li>\n\n\n\n<li>system AI wykonuje zadanie przygotowawcze do oceny istotnej dla przypadk\u00f3w u\u017cycia systemu wysokiego ryzyka wskazanych w za\u0142\u0105czniku III AI Act.<\/li>\n<\/ul>\n\n\n\n<p id=\"ember555\">Jest mo\u017cliwe, \u017ce omawiany system jest systemem wykonuj\u0105cym w\u0105skie zadanie proceduralne. Moim zdaniem taka klasyfikacja tego systemu by\u0142aby jednak nieuzasadniona.<\/p>\n\n\n\n<p id=\"ember556\">Mo\u017cliwo\u015b\u0107 skorzystania z ww. wy\u0142\u0105cze\u0144 dotyczy bowiem tylko takich sytuacji, gdy ryzyko zwi\u0105zane z ocenianym system jest ograniczone i \u201enie wp\u0142ywa w istotny spos\u00f3b na wynik procesu decyzyjnego\u201d.<\/p>\n\n\n\n<p id=\"ember557\">Autorzy narz\u0119dzia wskazuj\u0105 uczciwie w <a href=\"https:\/\/jsa-cp.opi.org.pl\/baza-wiedzy\/uzycie-sztucznej-inteligencji\/\">jego opisie<\/a>, \u017ce<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p><em>\u201eStworzenie narz\u0119dzia, kt\u00f3re by wskazywa\u0142o czy autor tekstu korzysta\u0142 lub nie ze sztucznej inteligencji, jest aktualnie&nbsp;praktycznie niemo\u017cliwe. Aby takie rozwi\u0105zanie mog\u0142o zaistnie\u0107, nale\u017ca\u0142oby z wi\u0119ksz\u0105 dok\u0142adno\u015bci\u0105 identyfikowa\u0107 wszystkie&nbsp;charakterystyczne cechy&nbsp;tekstu napisanego przez cz\u0142owieka oraz cechy tekstu wygenerowanego przy u\u017cyciu narz\u0119dzi sztucznej inteligencji.&nbsp;&nbsp;Jedn\u0105 z przeszk\u00f3d do stworzenia tak dok\u0142adnego narz\u0119dzia jest sta\u0142e rozwijanie&nbsp;modeli, na kt\u00f3rych opieraj\u0105 si\u0119 generatory tekst\u00f3w. Kolejnym problemem jest to, \u017ce zar\u00f3wno tekst generowany przez SI mo\u017ce by\u0107 realistyczny i trudny do odr\u00f3\u017cnienia od tekstu naturalnego, jak r\u00f3wnie\u017c tekst naturalny mo\u017ce posiada\u0107 cechy wygenerowane automatycznie (np. definicje, regu\u0142y, schematy).\u201e<\/em><\/p>\n<\/blockquote>\n\n\n\n<p id=\"ember559\">Samo wskazanie w instrukcji obs\u0142ugi, \u017ce system mo\u017ce generowa\u0107 tzw. fa\u0142szywe pozytywy czyli <em>\u201eniepoprawne zidentyfikowanie tekstu lub jego fragmentu, jako wygenerowanego przez sztuczn\u0105 inteligencj\u0119\u201d<\/em>, wydaje si\u0119 jednak niewystarczaj\u0105ce, gdy\u017c nadal istnieje ryzyko, \u017ce oceniaj\u0105cy prac\u0119 mo\u017ce b\u0142\u0119dnie pos\u0105dzi\u0107 jej autora o pr\u00f3b\u0119 \u201eoszukiwania\u201d przy pomocy system\u00f3w AI.<\/p>\n\n\n\n<p id=\"ember560\">Potencjalny zakres szkody, kt\u00f3r\u0105 mo\u017ce wyrz\u0105dzi\u0107 korzystanie z takiego systemu przez osob\u0119 nie do ko\u0144ca rozumiej\u0105c\u0105 zasad\u0119 jego dzia\u0142ania i jego ograniczenia, wydaje si\u0119 znaczny z punktu widzenia studenta &#8211; autora ocenianej pracy. Dodatkowo system b\u0119dzie wykorzystywany w sytuacji, w kt\u00f3rej wyst\u0119puje nier\u00f3wnowaga si\u0142 pomi\u0119dzy osob\u0105 dotkni\u0119t\u0105 negatywnymi skutkami dzia\u0142ania systemu (studentem) a u\u017cytkownikiem systemu AI (nauczycielem akademickim), kt\u00f3ry ma wy\u017cszy status i prawo podejmowania decyzji bezpo\u015brednio wp\u0142ywaj\u0105cych na osob\u0119 ocenian\u0105.<\/p>\n\n\n\n<p id=\"ember561\">W rezultacie s\u0105dz\u0119, \u017ce omawiany system by\u0142by systemem AI wysokiego ryzyka niekorzystaj\u0105cym z \u017cadnego ze wspomnianych wy\u017cej wy\u0142\u0105cze\u0144.<\/p>\n\n\n\n<h1 class=\"wp-block-heading\" id=\"ember562\">Jakie s\u0105 konsekwencje zaklasyfikowania systemu AI jako systemu wysokiego ryzyka?<\/h1>\n\n\n\n<p id=\"ember563\">System taki musia\u0142by by\u0107 zarejestrowany w unijnej bazie system\u00f3w AI. Nawiasem m\u00f3wi\u0105c, system musia\u0142by by\u0107 zarejestrowany w tej bazie nawet, gdyby dostawca tego systemu uzna\u0142, \u017ce nie jest obarczony wysokim ryzykiem na podstawie wy\u017cej wymienionych kryteri\u00f3w wy\u0142\u0105czaj\u0105cych.<\/p>\n\n\n\n<p id=\"ember564\">Dostawca takiego systemu opr\u00f3cz tego mia\u0142by szereg obowi\u0105zk\u00f3w, w tym mi\u0119dzy innymi:<\/p>\n\n\n\n<ul>\n<li>wdro\u017cenie systemu zarz\u0105dzania jako\u015bci\u0105, obejmuj\u0105cego zarz\u0105dzenie ryzykiem dotycz\u0105cym ca\u0142ego cyklu \u017cycia systemu AI,<\/li>\n\n\n\n<li>zapewnienie, \u017ce dane u\u017cywane do trenowania, walidacji i testowania systemu AI s\u0105 odpowiednie, wolne od b\u0142\u0119d\u00f3w i kompletne,<\/li>\n\n\n\n<li>przygotowanie dokumentacji technicznej wykazuj\u0105cej zgodno\u015b\u0107 systemu z wymaganiami AI Act,<\/li>\n\n\n\n<li>zapewnienie nadzoru cz\u0142owieka nad dzia\u0142aniem systemu w spos\u00f3b uwzgl\u0119dniaj\u0105cy np. tendencj\u0119 do automatycznego polegania lub nadmiernego polegania na wynikach generowanych przez system AI.<\/li>\n<\/ul>\n\n\n\n<p id=\"ember566\">Z kolei ka\u017cdy podmiot wdra\u017caj\u0105cy system (czyli uczelnia) b\u0119dzie musia\u0142 zapewni\u0107 (mi\u0119dzy innymi), \u017ce:<\/p>\n\n\n\n<ul>\n<li>system AI jest wykorzystywany zgodnie z instrukcjami u\u017cytkowania,<\/li>\n\n\n\n<li>dzia\u0142ania systemu AI jest monitorowane,<\/li>\n\n\n\n<li>studenci zostan\u0105 poinformowani, \u017ce ich prace dyplomowe b\u0119d\u0105 oceniane przy pomocy systemu AI wysokiego ryzyka.<\/li>\n<\/ul>\n\n\n\n<p id=\"ember568\">Dodatkowo uczelnia b\u0119dzie musia\u0142a dokona\u0107 ocen\u0119 skutk\u00f3w systemu AI wysokiego ryzyka w zakresie praw podstawowych. Obowi\u0105zek taki spoczywa na podmiotach prawa publicznego oraz podmiotach prywatnych \u015bwiadcz\u0105cych us\u0142ugi publiczne (czyli us\u0142ugi wa\u017cne dla os\u00f3b fizycznych, jedn\u0105 z nich jest edukacja, inn\u0105 np. ochrona zdrowia), a tak\u017ce w pewnym zakresie na bankach i ubezpieczycielach.<\/p>\n\n\n\n<p id=\"ember569\">Celem oceny skutk\u00f3w w zakresie praw podstawowych jest zidentyfikowanie przez uczelni\u0119 jako podmiot wdra\u017caj\u0105cy system AI konkretnych zagro\u017ce\u0144 dla praw os\u00f3b fizycznych oraz okre\u015blenie \u015brodk\u00f3w, kt\u00f3re nale\u017cy podj\u0105\u0107 w przypadku zmaterializowania si\u0119 tych zagro\u017ce\u0144.<\/p>\n\n\n\n<p id=\"ember570\">Dla przypomnienia \u2013 prawa podstawowe s\u0105 prawami i wolno\u015bciami przys\u0142uguj\u0105cymi ka\u017cdej osobie w Unii Europejskiej. Katalog tych praw zawarty jest w <a href=\"https:\/\/eur-lex.europa.eu\/legal-content\/PL\/TXT\/?uri=celex%3A12016P%2FTXT\">Karcie Praw Podstawowych Unii Europejskiej<\/a> z 2009 r.<\/p>\n\n\n\n<h1 class=\"wp-block-heading\" id=\"ember571\">Podsumowanie<\/h1>\n\n\n\n<p id=\"ember572\">Powy\u017csza analiza jest oczywi\u015bcie teoretycznym \u0107wiczeniem opartym na za\u0142o\u017ceniu, \u017ce system opracowany przez O\u015brodek Przetwarzania Danych jest systemem sztucznej inteligencji, co nie musi by\u0107 zgodne z rzeczywisto\u015bci\u0105. Je\u015bli jest inaczej i b\u0119d\u0119 o tym wiedzia\u0142 \u2013 uzupe\u0142ni\u0119 t\u0119 publikacj\u0119 o takie informacje.<\/p>\n\n\n\n<p id=\"ember573\">Wykorzysta\u0142em opublikowanie komunikatu na ten temat jako pretekst do pokazania, w jaki spos\u00f3b b\u0119d\u0105 stosowane przepisy rozporz\u0105dzenia o sztucznej inteligencji i jaki b\u0119dzie ich wp\u0142yw na szereg podmiot\u00f3w.<\/p>\n\n\n\n<p id=\"ember574\">Od chwili wej\u015bcia w \u017cycie rozporz\u0105dzenia (roz\u0142o\u017conego w czasie na lata 2025-2027) trzeba b\u0119dzie zapomnie\u0107 o swobodnym wytwarzaniu i korzystaniu z system\u00f3w AI, a podejrzewam, \u017ce coraz rzadziej b\u0119dziemy mieli do czynienia z systemami, kt\u00f3re nie zawieraj\u0105 cho\u0107by modu\u0142u opartego na AI. Oznacza to, \u017ce w zasadzie ka\u017cdy projekt dotycz\u0105cy oprogramowania b\u0119dzie musia\u0142 uwzgl\u0119dnia\u0107 analiz\u0119, czy jest to system AI, a je\u015bli tak, to jak taki system trzeba zaklasyfikowa\u0107.<\/p>\n\n\n\n<p id=\"ember575\">Dlatego warto ju\u017c teraz si\u0119 przymierza\u0107 do tych przepis\u00f3w, zw\u0142aszcza je\u015bli planujemy zakup system\u00f3w informatycznych, kt\u00f3re mog\u0105 by\u0107 systemami sztucznej inteligencji.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Niedawno rz\u0105dowy O\u015brodek Przetwarzania Danych udost\u0119pni\u0142 uczelniom rozwi\u0105zanie s\u0142u\u017c\u0105ce do wykrywania w pracach dyplomowych fragment\u00f3w wygenerowanych przez system sztucznej inteligencji. Ministerstwo Nauki i Szkolnictwa Wy\u017cszego Informacja poinformowa\u0142o o tym w ramach komunikatu zatytu\u0142owanego \u201eJSA \u2013 promotor sprawdzi, czy student korzysta\u0142 z technologii ChatGPT\u201d. Rozwi\u0105zanie to jest opisane w nast\u0119puj\u0105cy spos\u00f3b: \u201eMetoda detekcji wdro\u017cona do systemu [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":964,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[107,11,77,56,159],"tags":[201,202,108],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/digitalbabel.legal\/wp-content\/uploads\/2024\/03\/Firefly-20240301132940.png","_links":{"self":[{"href":"https:\/\/digitalbabel.legal\/wp-json\/wp\/v2\/posts\/963"}],"collection":[{"href":"https:\/\/digitalbabel.legal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/digitalbabel.legal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/digitalbabel.legal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/digitalbabel.legal\/wp-json\/wp\/v2\/comments?post=963"}],"version-history":[{"count":-9,"href":"https:\/\/digitalbabel.legal\/wp-json\/wp\/v2\/posts\/963\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/digitalbabel.legal\/wp-json\/wp\/v2\/media\/964"}],"wp:attachment":[{"href":"https:\/\/digitalbabel.legal\/wp-json\/wp\/v2\/media?parent=963"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/digitalbabel.legal\/wp-json\/wp\/v2\/categories?post=963"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/digitalbabel.legal\/wp-json\/wp\/v2\/tags?post=963"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}