![](https://indexadhu.hit.gemius.pl/redot.gif?id=nSCbubuYpDWJZLZs0TssLrbt33Lk5kbipuiZrkg89G3.g7/stparam=skrjjshgja/fastid=eeorncrnbsilkneetelidigetojp/nc=0)
Az Európai Bizottság korlátozná a mesterséges intelligencia használatát
![K EPA20180612138](https://kep.index.hu/1/0/3759/37592/375924/37592407_eeda5befe3d9608af15c0103595f6472_wm.jpg)
További Tech-Tudomány cikkek
Szigorú szabályok vonatkoznának a magas kockázatú mesterséges intelligenciáknak nevezett rendszerekre egy a BBC birtokába került és az Európai Bizottság elé kerülő javaslat szerint, amely érintené a rendőrség által használt és a munkaerő-kiválasztásnál alkalmazott algoritmusokat is.
Homályosak, tele kiskapukkal
A BBC által megszólaltatott szakértők szerint a szabályok homályosak, és kiskapukat is tartalmaznak. A tervezet nem foglalkozik például a mesterséges intelligencia katonai felhasználásával vagy a hatóságok által „a közbiztonság védelme érdekében” használt rendszerekkel sem.
A tervezet által tiltott MI-rendszerek javasolt listájában a következők találhatók:
- Általános megfigyeléshez használt MI-rendszerek;
- Társadalmi pontozáshoz használt MI-rendszerek;
- Azok az MI-rendszerek, amelyek információkat vagy „jóslatokat” használnak ki, valamint egy személy vagy személyek csoportja ellen használják őket azért, hogy kihasználják azok gyenge pontjait.
Daniel Leufer európai szakpolitikai elemző arról tweetelt, hogy ezek a definíciók túlságosan általánosak.
Hogyan állapíthatjuk meg, hogy mi a káros valaki számára? És ki értékeli ezt?
– írta a politikus tweetjében.
Leufer szerint a
magas kockázatúnak vélt mesterséges intelligencia
ellenőrzése érdekében a tagállamoknak sokkal nagyobb felügyeletet kellene alkalmazniuk, ideértve az értékelési szervek kijelölésének szükségességét e rendszerek tesztelésére, tanúsítására és ellenőrzésére.
Továbbá minden olyan cég, amely tiltott szolgáltatásokat fejleszt, vagy ezekről nem nyújt be megfelelő információkat, a globális bevételének akár 4 százalékáig is kiszabható bírságokkal számolhatna – hasonlóan a GDPR megsértéséért kiszabott bírságokhoz.
Az MI magas kockázatú példái Leufer szerint a következők:
- Olyan rendszerek, amelyek elsőbbséget élveznek a sürgősségi szolgálatokhoz kapcsolódó diszpécserrendszerekben;
- Olyan rendszerek, amelyek szabályozzák az oktatási intézményekhez való hozzáférést vagy az emberek beosztását;
- Munkaerő-kiválasztási algoritmusok;
- Hitelképességet értékelő algoritmusok;
- Egyének kockázatértékeléséhez használt algoritmusok;
- Bűncselekmény-előrejelző algoritmusok.
Leufer azt is hozzátette, hogy a javaslatokat „ki kell terjeszteni a közszféra összes mesterségesintelligencia-rendszerére, függetlenül a hozzárendelt kockázati szinttől”, megjegyezve még:
Ennek az az oka, hogy az embereknek általában nem dönthetnek arról, hogy interakcióba lépnek-e egy mesterségesintelligencia-rendszerrel a közszférában.
Amellett, hogy az Európai Bizottság megköveteli, hogy az új mesterségesintelligencia-rendszerek emberi felügyelet alatt álljanak, a szervezet azt is javasolja, hogy a magas kockázatú mesterségesintelligencia-rendszerekbe legyen beépítve egy úgynevezett „kill switch” (rendszert azonnal leállító kapcsoló). Ez lehet ténylegesen egy stop gomb vagy valamilyen más mód a rendszer azonnali kikapcsolására, ha az szükséges.
A mesterségesintelligencia-gyártók rendkívül nagy hangsúlyt fektetnek ezekre a javaslatokra, mivel alapvető változásra lesz szükség az MI tervezésében
– állítja Herbert Swaniker, a londoni központú Clifford Chance ügyvédi iroda ügyvédje.
„Elég volt a manipulációból”
Eközben Michael Veale, aki a University College London oktatójaként digitális jogokat tanít, és azok szabályozását, kiemelt egy olyan záradékot, amely arra kényszeríti a szervezeteket, hogy közleményben jelezzék, amikor deep fake technológiát alkalmaznak, amely az MI különösen ellentmondásos felhasználása hamis emberek létrehozására vagy valós emberek képeinek és videóinak manipulálására.
Veale azt is elmondta, hogy a jogszabályok elsősorban
az olyan informatikai cégeket és tanácsadókat célozták meg, amelyek gyakran „teljesen értelmetlen felhasználásra” adnak el MI-technológiát iskoláknak, kórházaknak, rendőröknek és munkáltatóknak.
De hozzátette, hogy azoknak a technológiai cégeknek, amelyek az MI-t „a felhasználók manipulálására” használták, szintén meg kell változtatniuk a gyakorlatukat.
Kötéltáncot jár az Európai Bizottság
Ezzel a jogszabálytervezettel az Európai Bizottság nagyon veszélyes kötéltáncot jár, hiszen egyrészről biztosítania kell, hogy a mesterséges intelligencia tényleg olyan „eszköz” legyen, amelyet „csakis az emberi jólét és jó közérzet érdekében” alkalmaznak, de közben
mégse korlátozza az EU versenyképességét az Egyesült Államok és Kína technológiai újításaival szemben.
Emellett pedig a tervezet is elismerte, hogy az MI már az életünk számos aspektusának szerves része.
A Magyarországon is működő Európai Nonprofit Jogi Központ, amely hozzájárult az Európai Bizottság mesterséges intelligenciáról szóló „fehér könyvének” elkészítéséhez, szintén azt nyilatkozta, hogy a törvényjavaslatban „túl sok a homályos pont és a kiskapu”.
A magas és az alacsony kockázat bináris meghatározását célzó uniós megközelítés a legjobb esetben csak hanyag, rosszabb esetben veszélyes is, mivel hiányzik a kontextus, és hiányoznak az árnyalatok a komplex mesterségesintelligencia-ökoszisztéma számára, amely ma már létezik.
Először is a bizottságnak jogalapú keretek között kell mérlegelnie az MI-rendszerek kockázatát – mint olyan kockázatokat, amelyeket az emberi jogokra, a jogállamiságra és a demokráciára jelentenek.
Másodszor, a bizottságnak el kell utasítania a túlságosan leegyszerűsített alacsony-magas kockázatú struktúrát, és fontolóra kell vennie egy „szintalapú megközelítést” az MI kockázatának felmérése terén
– olvashatjuk az elemzésükben.
Ez a sok ellentmondás is azt vetíti elő, hogy a részletek még finomodnak, mielőtt a törvénytervezetet jövő héten hivatalosan is nyilvánosságra hozzák. Az irányelv bevezetése pedig évekig tartó folyamat.
(BBC)
(Borítókép: Látogatók egy táncoló robotot néznek Európa legnagyobb digitalizációs és innovációs üzleti fesztiválján, a hannoveri CeBIT-en 2018. június 12-én. Fotó: Focke Strangmann / MTI / EPA)
![](https://indexadhu.hit.gemius.pl/redot.gif?id=nSCbubuYpDWJZLZs0TssLrbt33Lk5kbipuiZrkg89G3.g7/stparam=skrjjshgja/fastid=eeorncrnbsilkneetelidigetojp/nc=0)
Ehhez a cikkhez ajánljuk
- Tech-Tudomány
Valami baj van a Facebookkal és a Messengerrel, ne lepődjön meg, ha nem érkeznek meg az üzenetei
Érkeznek a hibajelentések.
tegnap, 09:25
- Tech-Tudomány
Tele van a Föld titokzatos piramisokkal, de az antarktiszi a legrejtélyesebb
Nem csak a Marsra jutott piramisokból.
tegnap, 05:57
- Tech-Tudomány
Visszavonta az ígéretét a Google, fegyverek fejlesztésére is használható lesz a mesterséges intelligencia
A vállalat a 2018-ban lefektetett alapelveit frissítette.
február 5., 09:07
- Mindeközben
Vásáry André: Nem akarok mindenáron szerepelni, ezt inkább meghagynám azoknak, akiknek ilyen a személyisége
2 órája
- Tech-Tudomány
A ChatGPT sokat segít, de van egy ijesztő oldala, amiről senki sem beszél
Forradalmasította az ember és a mesterséges intelligencia kapcsolatát, de mennyire átlátható?
tegnap, 18:49
- Tech-Tudomány
Új Beats fülhallgatót mutatott be az Apple
2019 óta vártunk az új Powerbeats Próra.
14 órája
- Tech-Tudomány
Működik is, meg nem is a Meta gondolatírógépe
Speciális szoba és mozdulatlan fej kell hozzá.
4 órája
- Tech-Tudomány
Mesterséges intelligencia elleni ítélettel zárult az egyik első per
Megsértették a Thomson Reuters szerzői jogait.
10 órája
- Mindeközben
Courteney Cox nosztalgikus fotóval és megható szavakkal köszöntötte Jennifer Anistont szülinapján
6 órája
- Mindeközben
Marsi Anikó olyan ajándékot kapott a születésnapjára, ami nem adatik meg mindenkinek
7 órája
- Mindeközben
Mellimplantátuma miatt került életveszélyes helyzetbe Szabó Franciska: „Ha nem műtenek meg azonnal, akár végzetes következménye is lehetett volna"
8 órája
- Tech-Tudomány
Új aranyláz kezdődhet egy felfedezés nyomán
Kulcsszerepe van a kénnek abban, hogy a nemesfém a felszín közelében megjelenik.
17 órája
- Tech-Tudomány
Emberek tisztítására alkalmas mosógépet találtak ki egy japán cég
A gép 15 perc alatt tisztít és szárít.
február 10., 16:39
- Tech-Tudomány
Ritka Einstein-gyűrűt találtak a Föld közelében és még egy eddig ismeretlen galaxist is felfedeztek miatta
Csupán „csak” 500 millió fényévre találtak csillagászati ritkaságot a kutatók.
tegnap, 14:48
- Tech-Tudomány
Rekordot ért el és óriási fúziós központot épít Kína
Nagyon szoros a verseny az amerikaiakkal.
február 5., 11:37
- Tech-Tudomány
Az Apple-felhasználók titkosított adataihoz követel hozzáférést az Egyesült Királyság
Az úgynevezett „hátsó ajtót” csak nemzetbiztonsági kockázat esetén használnák.
február 8., 07:24
- Mindeközben
Fodor Zsóka élete legnagyobb hibájának tartja, hogy nem szült gyermeket: „Ez az egyetlen, amit megbántam”
11 órája
- Címlapon
Április elsejétől bírságot szabhatnak ki a visszaváltható palackok miatt
Ez nem április elsejei tréfa.
6 órája
- Tech-Tudomány
Utánajártak a tudósok a világegyetemet elpusztító katasztrófának
A kérdés, hogy mikor pukkan ki a buborék, amiben élünk.
február 8., 10:53
- Tech-Tudomány
Véget ért egy korszak, nem gyárt több Blu-ray-lemezt a Sony
Nincs már kereslet a fizikai médiahordozókra.
február 5., 21:05
- Tech-Tudomány
Ismét valami szokatlant találtak a Marson, Elon Musk teljesen rápörgött
A Tesla-vezér űrhajósokat küldene az idegen építménynek tűnő képződményhez.
február 5., 11:36
- Tech-Tudomány
Megtalálták a tehenek Szent Grálját, ezek lehetnek az év legfontosabb technikai áttörései
2025 a robotokról és a zöldtechnológiáról szólhat.
február 6., 08:36
- Mindeközben
Az Apostol zenésze tűnt fel a Kincsvadászokban, nagy licitharc folyt 200 éves tárgyáért
12 órája
- Címlapon
Beismerte bűnösségét a volt fideszes politikus, aki ittasan bántalmazott egy nőt
Decemberben még megtagadta a vallomástételt.
3 órája
- Tech-Tudomány
Milyen az élet valójában egy sivatagos bolygón?
Ami a fantasztikus dramaturgiában jól működik, az exobiológiában nem biztos, hogy beválik.
február 9., 11:38
- Tech-Tudomány
Szinte fillérekért fejlesztettek érvelő mesterséges intelligenciát
Száz dollárnak ötven a fele.
február 8., 13:19
- Címlapon
Jégpáncéllá válhatnak az utak, figyelmeztetést adott ki a Magyar Közút
Több vármegyében is narancssárga veszélyjelzés van érvényben.
3 órája