Odpovědná umělá inteligence pro děti: IEEE nabízí důvěryhodný bezpečnostní rámec, který pomáhá chránit děti na internetu

Vzhledem k prudce rostoucímu vystavení dětí umělé inteligenci pomáhá certifikace IEEE Standards Association zajistit, aby produkty s umělou inteligencí určené dětem byly navrhovány eticky, nezávisle testovány a průběžně kontrolovány z hlediska bezpečnosti a ochrany jejich zdraví a pohody.

První certifikaci produktu získala vzdělávací platforma řeckého Národního centra pro vědecký výzkum.

PISCATAWAY, N.J.--(BUSINESS WIRE)--IEEE Standards Association, globální organizace pro tvorbu standardů založená na konsenzu, která je součástí organizace IEEE – největší světové odborné technické organizace a veřejně prospěšné organizace zaměřené na rozvoj technologií ve prospěch lidstva – dnes posunula svůj certifikační program Odpovědná umělá inteligence pro děti („Responsible AI for Children“, RAIC) kupředu udělením první certifikace produktu v oblasti bezpečnosti dětí na internetu.

Vzhledem k tomu, že děti stále více využívají digitální technologie a technologie založené na umělé inteligenci, hledají rodiče, pedagogové, vývojáři a regulační orgány nástroje, kterým mohou důvěřovat. Certifikace IEEE Responsible AI for Children (RAIC) reaguje přímo na tyto potřeby tím, že převádí globální technické standardy do praktického hodnocení návrhu přiměřeného věku a bezpečnosti dětí. Pomáhá tak organizacím upřednostňovat hodnoty, práva a dobré životní podmínky dětí při vývoji digitálních produktů a služeb.

„S tím, jak se umělá inteligence stává součástí každodenního života dětí, je naše odpovědnost jakožto představitelů technologického sektoru větší než kdy dříve,“ uvedla Mary Ellen Randall, prezidentka a generální ředitelka IEEE pro rok 2026. „Musíme pomáhat zajistit, aby systémy umělé inteligence určené dětem kladly důraz na bezpečné a podpůrné prostředí. Tento certifikační program poskytuje organizacím konkurenční výhodu, protože jim umožňuje doložit, že jejich produkty využívající umělou inteligenci, například chytré hračky, online hry a vzdělávací řešení, podporují dobré životní podmínky dětí a pomáhají získávat důvěru rodin a pedagogů.“

Certifikační program IEEE založený na důvěře pomáhá zvyšovat bezpečnost umělé inteligence pro děti

Certifikace RAIC organizace IEEE Standards Association potvrzuje, že produkt využívající umělou inteligenci a určený dětem – například chytrá hračka, vzdělávací aplikace nebo doučovací platforma – byl nezávisle testován a ověřen z hlediska splnění konkrétních bezpečnostních a etických požadavků. Program sjednocuje požadavky na návrh produktů i postupy jejich hodnocení a pomáhá technologickým společnostem, veřejným institucím a vzdělávacím organizacím vytvářet důvěryhodnější digitální produkty pro děti.

• Požadavky na návrh: Organizace musí již od počátku vývoje navrhovat řešení s ochranou soukromí založenou na standardech, omezeními obsahu odpovídajícími věku a zárukami práv dětí (jak jsou definována v Úmluvě OSN o právech dítěte), nikoli je dodatečně zavádět.
• Nezávislé zkoušení: Hodnotitelé akreditovaní organizací IEEE posuzují hotový výrobek z hlediska souladu s požadavky RAIC před udělením certifikace, podobně jako se u fyzické hračky získává bezpečnostní značka.
• Průběžná odpovědnost: Certifikované organizace musí i nadále prokazovat soulad s požadavky při změnách produktu, namísto toho, aby se spoléhaly na jednorázové posouzení, které již není aktualizováno.

„Děti tvoří významnou část dnešního online světa, přesto jsou při navrhování technologií až příliš často opomíjeny,“ uvedla Sophia A. Muirhead, výkonná ředitelka a provozní ředitelka IEEE. „Jako společnost se musíme zaměřit na to, abychom přímo do nástrojů, s nimiž naše děti každý den přicházejí do styku, zabudovali důvěru a bezpečnost. K tomu potřebujeme nezávisle ověřené standardy pro design vhodné pro daný věk, jako je certifikace „Responsible AI for Children“, které pomohou chránit mladé uživatele před újmou a zároveň jim umožní těžit z mnoha výhod, které technologie nabízí.“

Certifikační programy IEEE využívají globální síť nezávislých testovacích laboratoří a hodnotitelů, aby pomohly zajistit, že zařízení a systémy určené dětem splňují uznávané standardy bezpečnosti a spolehlivosti. Program navazuje na celosvětově uznávaný etický program IEEE pro umělou inteligenci CertifAIEd™ a propojuje dva klíčové standardy IEEE: IEEE 2089™, který stanovuje požadavky na digitální služby přiměřené věku, a IEEE 7000™, který poskytuje vodítka pro etický návrh systémů.

První produktovou certifikaci získala platforma d-AI-logue organizace NCSR Demokritos

IEEE Standards Association rovněž oznámila, že prvním certifikovaným produktem je d-AI-logue, inovativní vzdělávací platforma využívající umělou inteligenci, kterou vyvinulo řecké Národní centrum pro vědecký výzkum (NCSR) „Demokritos“. Platforma využívá sokratovský dialog, tedy výukovou metodu založenou na navádějících otázkách namísto přímých odpovědí, a pomáhá studentům samostatně vyhodnocovat informace.

Certifikace poskytuje řeckým pedagogům, školám, ministerstvům a rodičům nezávislé ujištění, že produkt byl posouzen podle přísných kritérií pro používání dětmi. Podporuje tak širší důvěru v platformu a její zavádění v době, kdy se rozšiřuje její využití v pilotních projektech ve třídách a ve vzdělávacích programech.

„V NCSR Demokritos věříme, že systémy umělé inteligence mohou zásadně proměnit vzdělávání, ale pouze tehdy, jsou-li vyvíjeny a nasazovány odpovědně,“ uvedl Dr. Georgios Petasis, výzkumný pracovník a koordinátor platformy d-AI-logue v NCSR „Demokritos“. „O certifikaci IEEE CertifAIEd Responsible AI for Children jsme usilovali proto, že nezávislé ověření je při vytváření systémů umělé inteligence určených dětem zásadní. Certifikace dokládá náš závazek k důvěryhodnosti, transparentnosti, lidskému dohledu a integritě vzdělávání. Zároveň dává pedagogům, tvůrcům politik a rodičům jistotu, že platforma d-AI-logue byla navržena s ohledem na nejlepší zájmy žáků.“

Další informace o certifikačním programu RAIC nebo možnost požádat o posouzení produktu najdete na adrese https://ieeesa.io/raic.

O IEEE Standards Association

IEEE Standards Association (IEEE SA) je přední globální organizace pro tvorbu standardů, která podporuje rozvoj technologií ve prospěch lidstva. Prostřednictvím otevřeného procesu založeného na konsenzu sdružuje IEEE SA odborníky z průmyslu, státní správy, akademické sféry a občanské společnosti. Společně vytvářejí celosvětově přijímané standardy a podporují rozvoj technologií před zavedením standardů, posuzování shody, školení a spolupráci s vládními institucemi. Tyto aktivity pomáhají řešit socio-technologické výzvy, podporovat dobré životní podmínky dětí a jejich bezpečnost v digitálním prostředí a posilovat důvěru v nové technologie. Prostřednictvím standardů, spolupráce a inovací přispívá IEEE SA k bezpečnějšímu, udržitelnějšímu a spravedlivějšímu světu.

O organizaci IEEE

IEEE je největší světovou odbornou technickou organizací a veřejně prospěšnou organizací, jejímž posláním je rozvíjet technologie ve prospěch lidstva. Prostřednictvím vysoce citovaných publikací, konferencí, technických standardů a odborných i vzdělávacích aktivit představuje IEEE důvěryhodný hlas v oborech od globálních standardů, leteckých a kosmických systémů, počítačů a telekomunikací až po biomedicínské inženýrství, elektrickou energetiku a spotřební elektroniku. Více informací najdete na adrese https://www.ieee.org.

Text této zprávy v původním, zdrojovém jazyce je oficiální verzí. Překlad této zprávy do jiných jazyků poskytujeme pouze jako doplňkovou službu. Text zprávy v původním, zdrojovém jazyce je jedinou právně závaznou verzí této tiskové zprávy.