Významný výbor zákonodárců v Evropském parlamentu schválil nařízení umělé inteligence jako prvního druhu – čímž se posunulo blíže k tomu, aby se stalo zákonem.
Schválení představuje přelomový vývoj v závodu mezi orgány ovlivňujícími umělou inteligenci, která se vyvíjí s neuvěřitelnou rychlostí.
Zákon, známý jako Evropské nařízení o umělé inteligenci, je prvním zákonem pro systémy AI na Západě. Čína již vyvinula návrh pravidel určených k řízení toho, jak firmy vyvíjejí produkty generativní AI, jako je ChatGPT.
Zákon přistupuje k regulaci AI založené na rizicích, kde jsou povinnosti systému proporcionální úrovni rizika, které představuje.
Pravidla také stanovují požadavky pro poskytovatele takzvaných „základních modelů“ jako je ChatGPT, které se staly klíčovým zájmem regulátorů, vzhledem k tomu, jak pokročilé se stávají, a obavám, že i zruční pracovníci budou nahrazeni.
Co říkají pravidla?
AI zákon kategorizuje aplikace AI do čtyř úrovní rizika:
nepřijatelné riziko, vysoké riziko, omezené riziko a minimální nebo žádné riziko.
Aplikace s nepřijatelným rizikem jsou výchozím nastavením zakázány a nemohou být nasazeny v bloku.
Mezi ně patří:
- AI systémy používající subliminální techniky nebo manipulační nebo klamavé techniky k deformaci chování
- AI systémy využívající zranitelností jednotlivců nebo specifických skupin
- Biometrické kategorizační systémy založené na citlivých atributů nebo charakteristikách
- AI systémy používané pro hodnocení společenského skóre nebo hodnocení důvěryhodnosti
- AI systémy používané pro předpovídání kriminálních nebo administrativních přestupků
- AI systémy vytvářející nebo rozšiřující databáze rozpoznávání obličejů prostřednictvím neselektivního sběru dat
- AI systémy odvozující emoce v průběhu právního výkonu, řízení hranic, pracovního prostředí a vzdělávání
V této souvislosti jsou na „základní modely“, jako jsou velké jazykové modely a generativní AI, kladeny požadavky.
Vývojáři základních modelů budou muset před zveřejněním svých modelů použít bezpečnostní kontroly, opatření pro správu dat a snižování rizik.
Budou také muset zajistit, aby výuková data použitá k informování jejich systémů nedopouštěla se porušení autorských práv.
„Poskytovatelé takových AI modelů by museli přijmout opatření k posouzení a snižování rizik pro základní práva, zdraví a bezpečnost a pro životní prostředí, demokracii a právní stát,“ řekl pro CNBC Ceyhun Pehlivan, právník v Linklaters a spoluvůdce skupiny pro telekomunikace, média a technologie a IP v Madridu.
„Budou také podléhat požadavkům pro správu dat, jako je zkoumání vhodnosti zdrojů dat a možných předsudků.“
Je důležité zdůraznit, že zatímco zákon byl schválen zákonodárci v Evropském parlamentu, je ještě daleko od toho, aby se stal zákonem.
Zdroj: CNBC
