მაღალი რისკის მქონე ხელოვნური ინტელექტის სისტემები: რას მოითხოვს ხელოვნური ინტელექტის შესახებ კანონი თქვენი ორგანიზაციისგან

მაღალი რისკის მქონე ხელოვნური ინტელექტის სისტემები ევროპული ხელოვნური ინტელექტის რეგულაციის ( რეგულაცია (EU) 2024/1689 ) ცენტრალურ წერტილს წარმოადგენს , რომელსაც ჩვეულებრივ ხელოვნური ინტელექტის შესახებ კანონს უწოდებენ და რომელიც ხელოვნური ინტელექტის (AI) სისტემების შემუშავების, მიწოდებისა და გამოყენების რისკებზე დაფუძნებულ ჩარჩოს ნერგავს. რაც უფრო მაღალია ჯანმრთელობის, უსაფრთხოებისა და ფუნდამენტური უფლებების რისკი, მით უფრო მძიმეა ვალდებულებები.

ამგვარად, ორგანიზაციებისთვის შესაბამისობა არ იწყება ტექნიკური დოკუმენტაციის შედგენით, არამედ სწორი კლასიფიკაციით. პირველ რიგში, დაადგინეთ, რომელი ხელოვნური ინტელექტის სისტემებია შემუშავებული, შეძენილი ან გამოყენებული ორგანიზაციის ფარგლებში. შემდეგ შეაფასეთ, არის თუ არა სისტემა აკრძალული , მაღალი რისკის შემცველი, ექვემდებარება თუ არა გამჭვირვალობის ვალდებულებებს ან არ ექვემდებარება თუ არა რაიმე კონკრეტულ ვალდებულებას.

ეს მუხლი განსაზღვრავს, თუ როდის შეიძლება ხელოვნური ინტელექტის სისტემა ჩაითვალოს მაღალი რისკის მქონედ, რა ვალდებულებები ვრცელდება პროვაიდერებსა და განმთავსებლებზე და რა ნაბიჯების გადადგმა შეუძლიათ ორგანიზაციებს ახლა. ასევე, იგი განსაზღვრავს ვადებს, როგორც ეს ამჟამად არსებობს, ციფრული ომნიბუსის ფარგლებში მაღალი რისკის ვალდებულებების გადავადების შემდეგ.

როდის არის ხელოვნური ინტელექტის სისტემა მაღალი რისკის შემცველი?

მაღალი რისკის შემცველი ხელოვნური ინტელექტის სისტემების შეფასება ძირითადად ხორციელდება ხელოვნური ინტელექტის შესახებ კანონის მე-6 მუხლისა და I და III დანართების შესაბამისად. არსებობს ორი გზა.

პირველი გზა ეხება ხელოვნური ინტელექტის სისტემებს, რომლებიც წარმოადგენენ იმ პროდუქტების ნაწილს, რომლებიც გათვალისწინებულია I დანართში ჩამოთვლილი ევროპული პროდუქტის კანონმდებლობით და საჭიროებენ მესამე მხარის შესაბამისობის შეფასებას. განვიხილოთ გარკვეული სამედიცინო მოწყობილობები, დანადგარები, ლიფტები და სათამაშოები. ამ სისტემებისთვის ხელოვნური ინტელექტის შესახებ კანონი ეფუძნება შესაბამისობის შეფასების არსებულ პროცედურას.

მეორე გზა ეხება III დანართში ჩამოთვლილ სფეროებში გამოყენებულ ხელოვნური ინტელექტის სისტემებს: ბიომეტრია, კრიტიკული ინფრასტრუქტურა, განათლება და პროფესიული მომზადება, დასაქმებისა და სამუშაო ძალის მართვა, აუცილებელ კერძო და საჯარო სერვისებზე წვდომა, სამართალდამცავი ორგანოები, მიგრაცია, თავშესაფარი და სასაზღვრო კონტროლი, ასევე მართლმსაჯულებისა და დემოკრატიული პროცესების ადმინისტრირება. ასეთ სფეროში ყოველი გამოყენება ავტომატურად არ იწვევს მაღალი რისკის მქონე ხელოვნური ინტელექტის სისტემებს შორის კლასიფიკაციას: ასევე უნდა შეფასდეს სისტემის კონკრეტული ფუნქცია და მე-6 მუხლის პირობები.

გამონაკლისი მე-6(3) მუხლში

III დანართის დომენში მოქცეული სისტემა ავტომატურად არ ითვლება მაღალი რისკის მქონე ხელოვნური ინტელექტის სისტემებად: ეს კლასიფიკაცია გამორიცხულია, თუ ის არ წარმოადგენს მნიშვნელოვან საფრთხეს პირთა ჯანმრთელობისთვის, უსაფრთხოებისთვის ან ფუნდამენტური უფლებებისთვის და არ ახდენს მნიშვნელოვან გავლენას გადაწყვეტილების მიღების შედეგზე. ეს შეიძლება მოხდეს მაშინ, როდესაც სისტემა ასრულებს მხოლოდ ვიწრო პროცედურულ დავალებას, უბრალოდ აუმჯობესებს ადამიანის მიერ უკვე განხორციელებულ აქტივობას, მხოლოდ აღნიშნავს გადახრებს ადამიანის მიერ ადრე მიღებული გადაწყვეტილებისგან ამ შეფასების ჩანაცვლების გარეშე, ან ასრულებს მხოლოდ მოსამზადებელ დავალებას.

ამ გამონაკლისზე დაყრდნობა უნდა იყოს ყურადღებით დასაბუთებული და დოკუმენტირებული. ორგანიზაცია აღრიცხავს არა მხოლოდ დასკვნას, არამედ ფაქტებსა და შეფასებას, რომელსაც ეს დასკვნა ეფუძნება. მიმწოდებელმა, რომელიც მიიჩნევს, რომ III დანართის სისტემა არ მიეკუთვნება მაღალი რისკის მქონე ხელოვნური ინტელექტის სისტემებს, უნდა დააფიქსიროს ეს შეფასება სისტემის ბაზარზე განთავსებამდე ან ექსპლუატაციაში გაშვებამდე და დამატებით ექვემდებარება 49(2) მუხლით გათვალისწინებულ რეგისტრაციის ვალდებულებას.

ერთ საკითხში რეგულაცია აბსოლუტურია. მუხლი 6(3) ითვალისწინებს, რომ III დანართში მითითებული ხელოვნური ინტელექტის სისტემა ყოველთვის მაღალი რისკის მქონე ხელოვნური ინტელექტის სისტემებს შორის ითვლება, თუ ის ფიზიკური პირების პროფილირებას ახორციელებს. ამ შემთხვევაში გამონაკლისის გამოყენება შეუძლებელია.

რა როლი აქვს თქვენს ორგანიზაციას?

ხელოვნური ინტელექტის შესახებ კანონი ჯაჭვში რამდენიმე როლს გამოყოფს. ორი მათგანი მნიშვნელოვანია ორგანიზაციების უმეტესობისთვის. მხარე, რომელიც ავითარებს ხელოვნური ინტელექტის სისტემას ან ათავსებს მას ბაზარზე საკუთარი სახელით ან სავაჭრო ნიშნით, კვალიფიცირდება, როგორც მიმწოდებელი. მხარე, რომელიც იყენებს ხელოვნური ინტელექტის სისტემას საკუთარი ბიზნესის მსვლელობისას მისი შემუშავების გარეშე, ზოგადად კვალიფიცირდება, როგორც განმახორციელებელი.

როლების ეს განაწილება სტატიკური არ არის. ორგანიზაცია, რომელიც მნიშვნელოვნად ცვლის შეძენილ სისტემას, აწვდის მას საკუთარი სახელით ან სავაჭრო ნიშნით, ან ცვლის მის დანიშნულებას, შეიძლება მაინც ჩაითვალოს მიმწოდებლად და შესაბამისად, დაეკისროს უფრო მძიმე ვალდებულებები. დაადგინეთ თითოეული სისტემისთვის, რომელ როლს ასრულებთ და ჩაიწერეთ ეს შეფასება.

ძირითადი ვალდებულებები

მაღალი რისკის შემცველი ხელოვნური ინტელექტის სისტემების მიმწოდებლები ექვემდებარებიან ვალდებულებებს, მათ შორის 8-17, 43 და 47-49 მუხლებით გათვალისწინებულ ვალდებულებებს:

• რისკების მართვის სისტემა, რომელიც მოიცავს მთელ სასიცოცხლო ციკლს
• მონაცემთა მართვა, მათ შორის გამოყენებული მონაცემების მიკერძოების გამოვლენა და გამოსწორება, მათ შორის ტრენინგის, ვალიდაციისა და ტესტირების მონაცემები
• ტექნიკური დოკუმენტაცია დანართი IV-ის შესაბამისად და მოვლენების ჟურნალი
• გამოყენების მკაფიო ინსტრუქციები განმთავსებლებისთვის
• დიზაინი, რომელიც უზრუნველყოფს ადამიანის ეფექტურ ზედამხედველობას
• მოთხოვნები სიზუსტის, სიმტკიცისა და კიბერუსაფრთხოების შესახებ
• ხარისხის მართვის სისტემა, შესაბამისობის შეფასება, ევროკავშირის შესაბამისობის დეკლარაცია, CE მარკირება და რეგისტრაცია ევროკავშირის მონაცემთა ბაზაში

III დანართის 1(ა) პუნქტში მითითებული დისტანციური ბიომეტრიული იდენტიფიკაციისთვის გამოყენებული მაღალი რისკის შემცველი ხელოვნური ინტელექტის სისტემებისთვის, მუხლი 14(5) აწესებს დამატებით მოთხოვნას ადამიანური ზედამხედველობის შესახებ: იდენტიფიკაციის საფუძველზე არ შეიძლება რაიმე ქმედების ან გადაწყვეტილების მიღება, თუ ის ცალკე არ არის გადამოწმებული და დადასტურებული საჭირო კომპეტენციის, მომზადებისა და უფლებამოსილების მქონე სულ მცირე ორი ფიზიკური პირის მიერ. ეს ცნობილია როგორც „ოთხი თვალის პრინციპი“.

განმთავსებლები ექვემდებარებიან 26-ე და 27-ე მუხლებით გათვალისწინებულ უფრო მსუბუქ, მაგრამ არანაკლებ მნიშვნელოვან ვალდებულებებს: გამოყენება გამოყენების ინსტრუქციის შესაბამისად, კომპეტენტური ადამიანური ზედამხედველობა, სისტემის მუშაობის მონიტორინგი, რისკებისა და სერიოზული ინციდენტების შესახებ ანგარიშგება და ჟურნალების შენახვა მინიმუმ ექვსი თვის განმავლობაში. სისტემასთან მომუშავე თანამშრომლები და ის პირები, რომლებზეც ის გამოიყენება, წინასწარ უნდა იყვნენ ინფორმირებულნი.

გარკვეულმა განმთავსებლებმა ასევე უნდა ჩაატარონ ფუნდამენტურ უფლებებზე ზემოქმედების შეფასება, ფუნდამენტურ უფლებებზე ზემოქმედების შეფასება 27-ე მუხლის შესაბამისად. ეს ნებისმიერ შემთხვევაში ვრცელდება საჯარო სამართლის ორგანოებზე, საჯარო მომსახურების კერძო მიმწოდებლებზე და განმთავსებლებზე, რომლებიც იყენებენ საკრედიტო ქულების შესაგროვებელ სისტემებს ან სიცოცხლისა და ჯანმრთელობის დაზღვევის სადაზღვევო რისკების შესაფასებლად.

ქრონოლოგია და მიმდინარე სტატუსი

ხელოვნური ინტელექტის შესახებ კანონი ძალაში შევიდა 2024 წლის 1 აგვისტოს და ეტაპობრივად ამოქმედდება. პრაქტიკაში მნიშვნელოვანია განვასხვავოთ უკვე მოქმედი ვალდებულებები, მომავალი ამოქმედების თარიღის მქონე ვალდებულებები და გამოცხადებული ცვლილებები, რომელთა ოფიციალური ძალაში შესვლა ჯერ არ დასრულებულა.

აკრძალული პრაქტიკა (მუხლი 5): ძალაშია 2025 წლის 2 თებერვლიდან

ხელოვნური ინტელექტის წიგნიერება (მუხლი 4): ძალაშია 2025 წლის 2 თებერვლიდან

ზოგადი დანიშნულების ხელოვნური ინტელექტის მოდელები: ძალაშია 2025 წლის 2 აგვისტოდან

გამჭვირვალობის ვალდებულებები (მუხლი 50): ძალაშია 2026 წლის 2 აგვისტოდან; არ გადაიდო

მაღალი რისკი III დანართის მიხედვით: ძალაშია 2027 წლის 2 დეკემბრიდან, გადავადების შემდეგ

მაღალი რისკი დანართი I-ის მიხედვით: ძალაშია 2028 წლის 2 აგვისტოდან, იგივე გადავადების შემდეგ

ეს გადავადება დამკვიდრებული კანონია. ევროკომისიამ 2025 წლის 19 ნოემბერს წარადგინა ციფრული ომნიბუსის პაკეტი, რომელიც ითვალისწინებდა მაღალი რისკის შემცველი ხელოვნური ინტელექტის სისტემების ვალდებულებების გადავადების წინადადებას. შესწორებული რეგულაცია, რეგულაცია (EU) 2026/1744, გამოქვეყნდა ოფიციალურ ჟურნალში 2026 წლის 24 ივლისს და ძალაში შევიდა 2026 წლის 27 ივლისს.

მხოლოდ მაღალი რისკის რეჟიმი შეიცვალა. III დანართით კლასიფიცირებული სისტემებისთვის III თავით გათვალისწინებული ვალდებულებები ახლა 2027 წლის 2 დეკემბრიდან მოქმედებს, ხოლო I დანართით კლასიფიცირებული სისტემებისთვის - 2028 წლის 2 აგვისტოდან. ყველაფერმა დანარჩენმა შეინარჩუნა თავდაპირველი თარიღი, ამიტომ გადავადებამ არ გამოიწვია ხელოვნური ინტელექტის შესახებ კანონში ზოგადი პაუზა.

გადადება უპირობო არ არის ისე, როგორც ეს თარიღის მარტივი შეცვლა იქნებოდა. მაღალი რისკის შემცველი ვალდებულებების გამოყენება დაკავშირებულია მათთან შესაბამისობისთვის საჭირო ჰარმონიზებული სტანდარტებისა და დამხმარე ინსტრუმენტების ხელმისაწვდომობასთან და ახალი თარიღები ამ შეთანხმების გარე ზღვარს წარმოადგენს და არა მიზანს, რომელიც შეიძლება კიდევ უფრო გადაიწიოს. ამიტომ, კიდევ ერთი გახანგრძლივების ვარაუდით დაგეგმვა არაგონივრულია.

ცალკე ყურადღებას იმსახურებს ორი საკითხი. პირველი, 50-ე მუხლით გათვალისწინებული გამჭვირვალობის ვალდებულებები და მე-4 მუხლით გათვალისწინებული ხელოვნური ინტელექტის შესახებ წიგნიერების ვალდებულება არ გადაიდო: 50-ე მუხლი გამოიყენება 2026 წლის 2 აგვისტოდან, ხოლო მე-4 მუხლი - 2025 წლის 2 თებერვლიდან. მეორე, პაკეტი მე-5 მუხლს ახალ აკრძალვას უმატებს, რომელიც მიმართულია ხელოვნური ინტიმური გამოსახულებების გენერირების ხელოვნური ინტელექტის აპლიკაციების და ხელოვნური ინტელექტის მიერ ბავშვზე სექსუალური ძალადობის შესახებ მასალის მიმართ.

ორგანიზაციებისთვის ეს ნიშნავს, რომ 2027 წლის დეკემბერი არის მაღალი რისკის შემცველი დოკუმენტაციის დაგეგმვის თარიღი, ხოლო გამჭვირვალობის, წიგნიერებისა და ზოგადი დანიშნულების ვალდებულებები უფრო ამჟამინდელი შესაბამისობის საკითხებია, ვიდრე მომზადების.

ზედამხედველობა და ჯარიმები

ნიდერლანდებში ხელოვნური ინტელექტის შესახებ კანონის აღმასრულებელი აქტი ჯერ არ არის ძალაში. პროექტი საჯარო კონსულტაციისთვის 2026 წლის 20 აპრილს გამოქვეყნდა. ის ნიდერლანდების მონაცემთა დაცვის ორგანოს (Autoriteit Persoonsgegevens) ანიჭებს ზედამხედველის როლს იმ სფეროებისთვის, რომლებშიც სექტორული ზედამხედველი არ არის დანიშნული, ხელოვნური ინტელექტის სპეციალური განყოფილებით და ნიდერლანდების ციფრული ინფრასტრუქტურის ორგანოს (RDI) ანიჭებს კოორდინატორულ როლს, ხოლო სექტორული ზედამხედველები ინარჩუნებენ საკუთარ დომენებს. სანამ ეს კანონი არ იქნება მიღებული და ძალაში შესული, უფლებამოსილებების ზუსტი განაწილება და ეროვნული საჯარიმო რეჟიმი არ არის დადგენილი.

ხელოვნური ინტელექტის შესახებ კანონის 99-ე მუხლი ითვალისწინებს ჯარიმის რამდენიმე მაქსიმალურ კატეგორიას. დონე დამოკიდებულია დარღვევის ხასიათზე და, შესაბამის შემთხვევაში, საწარმოს მსოფლიო წლიურ ბრუნვაზე. ყველაზე მაღალი მაქსიმუმი ვრცელდება მე-5 მუხლში აკრძალული პრაქტიკის დარღვევაზე; უფრო დაბალი მაქსიმუმი ვრცელდება სხვა ვალდებულებების დარღვევაზე, მათ შორის მაღალი რისკის შემცველი ხელოვნური ინტელექტის სისტემების მიმწოდებლებისა და განმთავსებლების ვალდებულებებზე; ხოლო ყველაზე დაბალი ვრცელდება ხელისუფლებისთვის არასწორი, არასრული ან შეცდომაში შემყვანი ინფორმაციის მიწოდებაზე. უფრო ხელსაყრელი რეჟიმი ვრცელდება მცირე და საშუალო საწარმოებზე (SMEs), მათ შორის სტარტაპებზე. ფაქტობრივი ჯარიმა განისაზღვრება ჯარიმების შესახებ მოქმედი წესებისა და საქმის გარემოებების გათვალისწინებით.

პრაქტიკული გზამკვლევი

• შეადგინეთ თქვენს მიერ ორგანიზაციის მიერ შემუშავებული, შეძენილი ან გამოყენებული ყველა ხელოვნური ინტელექტის სისტემის ინვენტარიზაცია.
• თითოეული სისტემისთვის დაადგინეთ, რომელ როლს ასრულებთ: მიმწოდებლის თუ განმთავსებლის.
• განსაზღვრეთ თითოეული სისტემის რისკის კატეგორია და დოკუმენტირებული გახადეთ ეს შეფასება, მათ შორის, მე-6(3) მუხლით გათვალისწინებულ გამონაკლისზე დაყრდნობა.
• შექმენით ხელოვნური ინტელექტის მმართველობა და დანიშნეთ პასუხისმგებელი პირი.
• უზრუნველყავით ამ სისტემებთან მომუშავე პერსონალის ხელოვნური ინტელექტის შესახებ წიგნიერება; ეს ვალდებულება უკვე ძალაშია.
• განახორციელეთ 50-ე მუხლით გათვალისწინებული გამჭვირვალობის ზომები; ისინი გამოიყენება 2026 წლის 2 აგვისტოდან.
• დროულად დაიწყეთ ტექნიკური დოკუმენტაციის მომზადება და, საჭიროების შემთხვევაში, ფუნდამენტურ უფლებებზე ზემოქმედების შეფასება.
• გადახედეთ მომწოდებლებთან დადებული კონტრაქტებს როლების განაწილების, ინფორმაციის მიწოდებისა და აუდიტის უფლებების შესახებ.
• მაღალი რისკის შემცველი დოკუმენტაციის დაგეგმვა დანართი III-ის სისტემებისთვის 2027 წლის 2 დეკემბრის და დანართი I-ის სისტემებისთვის 2028 წლის 2 აგვისტოს ჩათვლით.

რას მოითხოვს ხელოვნური ინტელექტის შესახებ კანონი თქვენი ორგანიზაციისგან

ხელოვნური ინტელექტის შესახებ კანონი ფუნდამენტურად მოქმედებს იმაზე, თუ როგორ ავითარებენ, ყიდულობენ და იყენებენ ორგანიზაციები ხელოვნურ ინტელექტს. მაღალი რისკის შემცველი ვალდებულებების გადავადება დროს ყიდულობს რეჟიმის ყველაზე მძიმე ნაწილისთვის, მაგრამ ყველაფერს სხვას უცვლელად ტოვებს: მე-5 მუხლის აკრძალვები, ხელოვნური ინტელექტის წიგნიერების ვალდებულება, ზოგადი დანიშნულების ხელოვნური ინტელექტის მოდელების წესები და 50-ე მუხლის გამჭვირვალობის ვალდებულებები დღესაც მოქმედებს. მოპოვებული დრო საუკეთესოდ გამოიყენება კლასიფიკაციასა და დოკუმენტაციაზე, რადგან ეს ის ნაბიჯებია, რომელთა შეკუმშვა მოგვიანებით შეუძლებელია. რეგულაციის უფრო ფართო მიმოხილვისთვის იხილეთ ჩვენი სრული სახელმძღვანელო ევროკავშირის ხელოვნური ინტელექტის შესახებ , რომელიც ავსებს ამ სტატიის ფოკუსს მაღალი რისკის შემცველ ხელოვნური ინტელექტის სისტემებზე.

Law & More ეხმარება ორგანიზაციებს ხელოვნური ინტელექტის სისტემების ინვენტარიზაციასა და კლასიფიკაციაში, მათი, როგორც მიმწოდებლის ან განმთავსებლის როლის განსაზღვრაში, ხელოვნური ინტელექტის მომწოდებლებთან კონტრაქტების განხილვასა და შედგენაში, ასევე ხელოვნური ინტელექტის მართვის დაწესებაში. თუ გსურთ იცოდეთ, რომელი ვალდებულებები ვრცელდება ამჟამად თქვენს ორგანიზაციაზე და რომელი ნაბიჯები უნდა იყოს პრიორიტეტული, გთხოვთ, დაგვიკავშირდეთ.

ხშირად დასმული შეკითხვები

ქვემოთ ჩვენ ვუპასუხებთ ამ თემაზე ყველაზე ხშირად დასმულ კითხვებს.