2025 წლის 2 თებერვალს, ევროპის ხელოვნური ინტელექტის შესახებ კანონმა მნიშვნელოვანი ცვლილებები შეიტანა, რის შედეგადაც ხელოვნური ინტელექტის გარკვეული პრაქტიკა ევროკავშირის მასშტაბით უკანონოდ გამოცხადდა. ჰოლანდიურმა ბიზნესებმა ახლა მკაცრი წესები უნდა დაიცვან იმის შესახებ, თუ რომელი ხელოვნური ინტელექტის სისტემების გამოყენება შეუძლიათ.
კომპანიები, რომლებიც აკრძალული ხელოვნური ინტელექტის ხელსაწყოების ამოღებას ვერ შეძლებენ, მძიმე ჯარიმებს და პოტენციურად სამართლებრივი ქმედებებს ემუქრებათ ნებისმიერი პირის მხრიდან, ვინც ზიანს განიცდის.
2025 წლის თებერვლიდან ნიდერლანდებში აკრძალულია ხელოვნური ინტელექტის სისტემები, რომლებიც მანიპულირებენ ადამიანებით, იყენებენ სოციალურ ქულებს, ახდენენ პიროვნებების კატეგორიზაციას ბიომეტრიული მონაცემების საფუძველზე ან იყენებენ სახის რეალურ დროში ამოცნობის ფუნქციებს საზოგადოებრივ ადგილებში. ეს აკრძალვები ასევე ვრცელდება ემოციების ამოცნობის ტექნოლოგიაზე სამუშაო ადგილებსა და სკოლებში, ასევე ინტერნეტიდან სახის სურათების არამიზნობრივ შეგროვებაზე ამოცნობის მონაცემთა ბაზების შესაქმნელად.
წესები დაუყოვნებლივ ამოქმედდება, რაც ბიზნესებს არ აძლევს შეღავათიან ვადას ამ სისტემების თანდათანობით გაუქმებისთვის. ჯარიმების თავიდან ასაცილებლად აუცილებელია იმის გაგება, თუ რომელი ხელოვნური ინტელექტის პრაქტიკაა აკრძალული და რა ნაბიჯები უნდა გადადგას თქვენმა ორგანიზაციამ.
ეს სახელმძღვანელო განმარტავს კონკრეტულ აკრძალვებს, ასახავს თქვენს, როგორც ჰოლანდიური ბიზნესის, შესაბამისობის ვალდებულებებს და მოიცავს ტრენინგის მოთხოვნებს, რომლებიც საჭიროა თქვენი საქმიანობის ახალი კანონის შესაბამისად ლეგალური შესანარჩუნებლად.
რას მოიცავს აკრძალვები
რეგულაცია (EU) 2024/1689, რომელიც ცნობილია როგორც ევროკავშირის ხელოვნური ინტელექტის შესახებ კანონი , შემოიღო კონკრეტული აკრძალვები ხელოვნური ინტელექტის გარკვეულ პრაქტიკებზე, რომლებიც აღსრულდა 2025 წლის 2 თებერვალს. ეს წესები ვრცელდება თქვენს ნიდერლანდურ ბიზნესზე, თუ თქვენ ავითარებთ, განათავსებთ ან იყენებთ ხელოვნური ინტელექტის სისტემებს ნიდერლანდებში ან უფრო ფართო ევროკავშირში.
აკრძალული ხელოვნური ინტელექტის პრაქტიკის ფარგლები
ხელოვნური ინტელექტის შესახებ კანონი კრძალავს ხელოვნური ინტელექტის კონკრეტულ პრაქტიკებს, რომლებიც მიუღებელ რისკებს უქმნის ფუნდამენტურ უფლებებსა და ევროპულ ღირებულებებს. რეგულაცია (EU) 2024/1689-ის მე-5 მუხლი ამ აკრძალულ პრაქტიკებს განსაზღვრავს მათი პოტენციური ზიანის და არა თავად ტექნოლოგიის მიხედვით.
აკრძალული პროდუქტების ძირითად კატეგორიებს შორისაა:
- მანიპულაციური ხელოვნური ინტელექტის სისტემები რომლებიც კონკრეტული ჯგუფების დაუცველობას იყენებენ
- სოციალური შეფასების სისტემები, მიუხედავად იმისა, მართავს მას საჯარო ორგანო თუ კერძო ბიზნესი
- რეალურ დროში დისტანციური ბიომეტრიული იდენტიფიკაცია სამართალდამცავი ორგანოებისთვის საჯაროდ ხელმისაწვდომ ადგილებში (შეზღუდული გამონაკლისების გარდა)
- ბიომეტრიული კატეგორიზაციის სისტემები რომლებიც მგრძნობიარე ატრიბუტებს გამოავლენენ
- არამიზნობრივი სკრაპინგი სახის სურათები ინტერნეტიდან ან ვიდეოთვალთვალის ჩანაწერებიდან
თქვენი ბიზნესი ამ აკრძალვების ქვეშ მოექცევა, მიუხედავად იმისა, ნიდერლანდებში ხელოვნური ინტელექტის პროვაიდერის, განმთავსებლის თუ დისტრიბუტორის სტატუსით მოქმედებთ. ნიდერლანდების მონაცემთა დაცვის ორგანო ევროკავშირის სხვა სამართალდამცავ ორგანოებთან ერთად თანამშრომლობს შესაბამისობის უზრუნველსაყოფად.
აკრძალვების შეუსრულებლობა იწვევს ჯარიმას ოცდათხუთმეტ მილიონ ევრომდე ან მსოფლიო წლიური ბრუნვის შვიდი პროცენტის ოდენობით, რომელიც უფრო მაღალია.
ძალაში შესვლის თარიღები და გარდამავალი პერიოდები
მე-5 მუხლით გათვალისწინებული აკრძალვები 2025 წლის 2 თებერვალს ამოქმედდა. ეს ნიშნავს, რომ თქვენი ბიზნესი დაუყოვნებლივ ვალდებულია დაიცვას ეს წესები, თუ იყენებთ ან ავითარებთ შესაბამის ხელოვნური ინტელექტის სისტემებს.
აღსრულების ჩარჩო ეტაპობრივ ვადებს მიჰყვება. სრული ჯარიმები, მმართველობის სტრუქტურები და კონფიდენციალურობის დებულებები 2025 წლის 2 აგვისტოდან ამოქმედდება.
ეს თქვენს ორგანიზაციას ექვსთვიან ფანჯარას აძლევს, რომლის განმავლობაშიც წესები ამოქმედდება, თუმცა სრული აღსრულების მექანიზმები ჯერ კიდევ შემუშავების პროცესშია. ევროკომისიამ ოფიციალური სახელმძღვანელო მითითებები 2025 წლის 4 თებერვალს გამოაქვეყნა, რათა განემარტა, თუ როგორ მუშაობს ეს აკრძალვები პრაქტიკაში.
აღსრულება ორგანიზებულია ეროვნული ბაზრის ზედამხედველობის ორგანოების მიერ, რომლებიც თითოეულმა წევრმა სახელმწიფომ უნდა დანიშნოს. ნიდერლანდებს ჯერ არ დაუსრულებია მათ ოფიციალურად დანიშვნის შესახებ სააპლიკაციო აქტი; მოსამზადებელ ფაზაში ნიდერლანდების მონაცემთა დაცვის ორგანო და ნიდერლანდების ციფრული ინფრასტრუქტურის ორგანო მოქმედებენ როგორც კოორდინაციის ორგანოები, ხოლო სექტორის მარეგულირებელი ორგანოები ზედამხედველობენ ხელოვნურ ინტელექტს საკუთარ დომენებში. თავად აკრძალვა მოქმედებს ამის მიუხედავად: ის ფაქტი, რომ აღსრულების სტრუქტურა ჯერ კიდევ დასრულების პროცესშია, არ ხდის აკრძალულ პრაქტიკას კანონიერს და სისტემა, რომელიც არღვევს მე-5 მუხლს, ასევე არღვევს GDPR-ს უმეტეს შემთხვევაში, რომლის აღსრულებაც ნიდერლანდების მონაცემთა დაცვის ორგანოს დღეს შეუძლია.
ძირითადი განმარტებები: ხელოვნური ინტელექტის სისტემები და პრაქტიკები
რეგულაციის მე-3 მუხლი ხელოვნური ინტელექტის სისტემას განსაზღვრავს , როგორც მანქანაზე დაფუძნებულ სისტემას, რომელიც შექმნილია ავტონომიის სხვადასხვა დონით მუშაობისთვის, რომელმაც შეიძლება გამოავლინოს ადაპტირება განლაგების შემდეგ და რომელიც მიღებული შეყვანიდან გამომდინარე დაასკვნის, თუ როგორ წარმოქმნას გამომავალი მონაცემები, როგორიცაა პროგნოზები, შინაარსი, რეკომენდაციები ან გადაწყვეტილებები, რომლებსაც შეუძლიათ გავლენა მოახდინონ ფიზიკურ ან ვირტუალურ გარემოზე. ამ განმარტებაში სამუშაოს შემსრულებელი ელემენტია დასკვნა: სისტემა, რომელიც უბრალოდ იყენებს პირის მიერ სრულად ჩაწერილ წესებს, არ არის ხელოვნური ინტელექტის სისტემა, ხოლო მოდელი, რომელიც საკუთარ გადაწყვეტილების წესს მონაცემებიდან იღებს, არის.
აკრძალული ხელოვნური ინტელექტის პრაქტიკა გულისხმობს ხელოვნური ინტელექტის განლაგების ან გამოყენების კონკრეტულ გზებს, რომლებიც ევროკავშირმა მიუღებლად მიიჩნია. აკრძალვა ვრცელდება თავად პრაქტიკაზე და არა საფუძვლად დადებულ ტექნოლოგიაზე.
ეს ნიშნავს, რომ თქვენ შეგიძლიათ გამოიყენოთ იგივე ხელოვნური ინტელექტის სისტემა დაშვებული მიზნებისთვის, გარკვეული აპლიკაციების გამოყენების აკრძალვის შემთხვევაში. თქვენმა ბიზნესმა უნდა განასხვავოს ხელოვნური ინტელექტის სისტემა (ტექნოლოგია) და მისი პრაქტიკა (როგორ იყენებთ მას).
სახის ამოცნობის ხელოვნური ინტელექტის სისტემა შესაძლოა კანონიერი იყოს შენობებში წვდომის კონტროლისთვის, მაგრამ აკრძალული იყოს საჯარო სივრცეებში რეალურ დროში თვალთვალისთვის. კონტექსტი და გამოყენება განსაზღვრავს კანონიერებას (EU) 2024/1689 რეგულაციის შესაბამისად.
აკრძალული ხელოვნური ინტელექტის პრაქტიკის დეტალური სია
ევროკავშირის ხელოვნური ინტელექტის შესახებ კანონი კრძალავს ხელოვნური ინტელექტის კონკრეტულ აპლიკაციებს, რომლებიც მიუღებელ რისკებს უქმნის ფუნდამენტურ უფლებებსა და უსაფრთხოებას. ეს აკრძალული პრაქტიკა სამ ძირითად კატეგორიად იყოფა: სისტემები, რომლებიც მანიპულირებენ ადამიანის ქცევას, სისტემები, რომლებიც ექსპლუატაციას უწევენ დაუცველ ჯგუფებს და მექანიზმები, რომლებიც სოციალური ქულების მეშვეობით მასობრივ მეთვალყურეობას უზრუნველყოფს.
მანიპულაციური და მატყუარა სისტემები
ხელოვნური ინტელექტის შესახებ კანონი კრძალავს ნებისმიერ ხელოვნური ინტელექტის სისტემას, რომელიც იყენებს ქვეცნობიერ ტექნიკას ადამიანის ქცევის მატერიალურად დამახინჯების მიზნით ისე, რომ ზიანი მიაყენოს. ეს არის მეთოდები, რომლებიც თქვენი ცნობიერი ცნობიერების მიღმა მოქმედებს თქვენს გადაწყვეტილებებზე ან ქმედებებზე გავლენის მოხდენის მიზნით.
აკრძალული მანიპულაციური პრაქტიკა მოიცავს:
- ხელოვნური ინტელექტის სისტემები, რომლებიც ათავსებენ ქვეცნობიერ კომპონენტებს, რომელთა აღმოჩენაც თქვენ არ შეგიძლიათ
- სისტემები, რომლებიც შექმნილია ბავშვებში ასაკთან დაკავშირებული დაუცველობის გამოსაყენებლად
- ტექნოლოგიები, რომლებიც მანიპულირებენ ქცევას ფიზიკური ან ფსიქოლოგიური ზიანის მიყენების მიზნით
თქვენ არ შეგიძლიათ ხელოვნური ინტელექტის გამოყენება ადამიანების განზრახ მოსატყუებლად ისეთი გზებით, რამაც მნიშვნელოვანი ზიანი შეიძლება გამოიწვიოს . ეს ნიშნავს, რომ თქვენს ბიზნესს არ შეუძლია განათავსოს ჩატბოტები ან ვირტუალური ასისტენტები, რომლებიც შეცდომაში შეიყვანენ მომხმარებლებს მათი ხელოვნური ინტელექტის ბუნების შესახებ, როდესაც ამ მოტყუებამ შეიძლება ზიანი მიაყენოს.
აკრძალვა ვრცელდება ხელოვნური ინტელექტის სისტემებზე, რომლებიც იყენებენ ბნელ შაბლონებს ან ფსიქოლოგიურ მანიპულირებას, რათა მომხმარებლები მავნე არჩევანისკენ უბიძგონ. კანონი იცავს ინდივიდებს ხელოვნური ინტელექტის პრაქტიკისგან, რომელიც გვერდს უვლის რაციონალურ გადაწყვეტილებებს.
თუ თქვენი ხელოვნური ინტელექტის სისტემა ქცევაზე გავლენას ახდენს ფარული მანიპულაციების გზით და არა გამჭვირვალე ინფორმაციით, ეს კანონს არღვევს.
დაუცველი პირების ექსპლუატაცია
მკაცრად აკრძალულია ხელოვნური ინტელექტის სისტემები, რომლებიც იყენებენ ასაკთან, შეზღუდულ შესაძლებლობებთან ან სოციალურ ან ეკონომიკურ გარემოებებთან დაკავშირებულ დაუცველობებს. თქვენ არ შეგიძლიათ გამოიყენოთ ხელოვნური ინტელექტი იმ ადამიანების უპირატესობის მოსაპოვებლად, რომლებსაც არ აქვთ მანიპულაციის გაგების ან წინააღმდეგობის გაწევის უნარი.
ეს აკრძალვა ვრცელდება ხელოვნურ ინტელექტზე, რომელიც მიზნად ისახავს ბავშვების გამოუცდელობის ან ხანდაზმული პირების კოგნიტური დაქვეითების კონტროლს. თქვენს ბიზნესს არ შეუძლია განათავსოს სისტემები, რომლებიც იყენებენ ფიზიკურ ან ფსიქიკურ შეზღუდვებს ქცევის მანიპულირებისთვის.
ხელოვნური ინტელექტი, რომელიც ეკონომიკური სასოწარკვეთილებით ან სოციალური იზოლაციით სარგებლობს, ასევე ამ აკრძალვის ქვეშ ექცევა.
დაცული დაუცველი ჯგუფები მოიცავს:
- ბავშვები და არასრულწლოვნები
- კოგნიტური დარღვევების მქონე ხანდაზმული პირები
- ფიზიკური ან ფსიქიკური შეზღუდვის მქონე ადამიანები
- ეკონომიკური სირთულეების წინაშე მყოფი პირები
აკრძალვა ვრცელდება მაშინ, როდესაც თქვენი ხელოვნური ინტელექტის სისტემა ექსპლუატაციის გზით იწვევს ან სავარაუდოდ გამოიწვევს მნიშვნელოვან ზიანს. თქვენ უნდა შეაფასოთ, შეიძლება თუ არა თქვენი ხელოვნური ინტელექტის აპლიკაციები უსამართლოდ იყოს მიზანში ამოღებული დაუცველი მოსახლეობისთვის.
სოციალური შეფასება და ქცევითი პროფილირება
ხელოვნური ინტელექტის შესახებ კანონი კრძალავს ხელოვნური ინტელექტის სისტემებს, რომლებიც აფასებენ ან კლასიფიცირებენ ადამიანებს მათი სოციალური ქცევის ან პიროვნული მახასიათებლების მიხედვით . თქვენ არ შეგიძლიათ გამოიყენოთ სოციალური შეფასების მექანიზმები, რომლებიც უსამართლო მოპყრობას ან ზიანს იწვევს.
სოციალური ქულების განსაზღვრა გულისხმობს ინდივიდების შეფასებას მათი ქცევის, ურთიერთობების ან პროგნოზირებული ქცევის საფუძველზე. ეს ქმნის პროფილებს, რომლებიც განსაზღვრავს სერვისებზე, შესაძლებლობებზე ან უფლებებზე წვდომას.
აკრძალული სოციალური ქულების აქტივობები მოიცავს:
- მოქალაქეების შეფასება სოციალური ან პროფესიული ქცევის მიხედვით
- სანდოობის ქულების შექმნა პირადი მონაცემებიდან
- კრიმინალური ქცევის პროგნოზირება პროფილირების საფუძველზე
- მომსახურების უარყოფა ქცევითი შეფასებების საფუძველზე
თქვენ არ შეგიძლიათ დანერგოთ ხელოვნური ინტელექტის სისტემები, რომლებიც ანიჭებენ ქულებს იმის დასადგენად, იღებს თუ არა ვინმე ჯანდაცვას, განათლებას, დასაქმებას ან ფინანსურ მომსახურებას. აკრძალვა ვრცელდება იმის მიუხედავად, მართავთ თუ არა ამ სისტემებს საჯარო ორგანოს თუ კერძო ბიზნესის სახელით.
საჯარო სივრცეებში რეალურ დროში დისტანციური ბიომეტრიული იდენტიფიკაცია ასევე მკაცრი აკრძალვების ქვეშ ექცევა, სამართალდამცავი ორგანოებისთვის შეზღუდული გამონაკლისებით.
ბიომეტრიული, სახის ამოცნობისა და ემოციების ხელოვნური ინტელექტის აკრძალვები
ევროკავშირის ხელოვნური ინტელექტის შესახებ კანონი კრძალავს ბიომეტრიული და სახის ამოცნობის სისტემების რამდენიმე ტიპს, რომლებიც საფრთხეს უქმნის ფუნდამენტურ უფლებებს . ეს აკრძალვები გავლენას ახდენს იმაზე, თუ როგორ შეუძლიათ ნიდერლანდურ ბიზნესებს გამოიყენონ ბიომეტრიული მონაცემები , სახის ამოცნობის მონაცემთა ბაზები, ემოციების ამოცნობის ინსტრუმენტები და რეალურ დროში იდენტიფიკაციის სისტემები საზოგადოებრივ ადგილებში.
ბიომეტრიული კატეგორიზაცია
თქვენ არ შეგიძლიათ გამოიყენოთ ხელოვნური ინტელექტის სისტემები, რომლებიც ადამიანებს მათი ბიომეტრიული მონაცემების მიხედვით კატეგორიზაციას უკეთებენ მათი რასის, პოლიტიკური შეხედულებების, პროფკავშირის წევრობის, რელიგიური შეხედულებების ან სექსუალური ორიენტაციის დასადგენად. ეს აკრძალვა ვრცელდება ამ სისტემების ბაზარზე განთავსების, ექსპლუატაციაში გაშვების ან ამ კონკრეტული მიზნისთვის გამოყენების შემთხვევაში.
აკრძალვა მიმართულია იმ სისტემების მიმართ, რომლებიც ბიომეტრიული ანალიზის მეშვეობით ფიზიკურ პირებზე მგრძნობიარე დასკვნებს აკეთებენ . თქვენს ბიზნესს შეუსაბამობისთვის მსოფლიო წლიური ბრუნვის 7%-მდე ჯარიმა ემუქრება.
ამ წესს ერთი გამონაკლისი აქვს. თქვენ შეგიძლიათ კანონიერად შეძენილი ბიომეტრიული მონაცემთა ნაკრებების, მაგალითად, სურათების, მონიშვნა ან გაფილტვრა სამართალდამცავი ორგანოების კონტექსტში ბიომეტრიული მონაცემების საფუძველზე.
სამართალდამცავი ორგანოების გარეთ, კატეგორიზაციის ეს პრაქტიკა კვლავ სრულიად აკრძალულია.
სახის ამოცნობის ტექნოლოგიების შეზღუდვები
სახის ამოცნობის მონაცემთა ბაზების შექმნა ან გაფართოება ინტერნეტიდან ან ვიდეოთვალთვალის ჩანაწერებიდან სახის სურათების არამიზნობრივი ამოღების გზით არ შეიძლება. ეს აკრძალვა ძალაში შევიდა 2025 წლის 2 თებერვალს.
ამ აკრძალვის ამოქმედების მიზნით, ოთხი პირობა უნდა არსებობდეს:
- პრაქტიკა მოიცავს ხელოვნური ინტელექტის სისტემის განთავსებას, მომსახურებას ან გამოყენებას.
- მიზანია სახის ამოცნობის მონაცემთა ბაზების შექმნა ან გაფართოება
- მეთოდი სახის სურათების არამიზნობრივად შეგროვებას იყენებს.
- მონაცემთა წყაროებია ინტერნეტი ან ვიდეოთვალთვალის ჩანაწერები
საკვანძო სიტყვაა „არამიზნობრივი“. სახის სურათების შეგროვება ფართოდ, განურჩევლად შეუძლებელია.
ეს ნიშნავს, რომ კონკრეტული მიზნობრივი კრიტერიუმების გარეშე, სუპერმარკეტებში ან საზოგადოებრივ ადგილებში ვერ განათავსებთ კამერებს, რომლებიც ავტომატურად იღებენ სახეებს ამოცნობის მონაცემთა ბაზების შესაქმნელად.
ემოციების ამოცნობა დასაქმებასა და განათლებაში
ხელოვნური ინტელექტის სისტემების გამოყენება სამუშაო ადგილებსა და საგანმანათლებლო დაწესებულებებში ადამიანების ემოციების დასადგენად არ შეიძლება. ეს აკრძალვა პირდაპირ გავლენას ახდენს ადამიანური რესურსების დეპარტამენტებზე, სკოლებსა და სასწავლო დაწესებულებებზე, რომლებმაც შეიძლება განიხილონ ემოციების ამოცნობის ინსტრუმენტები.
აკრძალვა ვრცელდება ნებისმიერ ხელოვნური ინტელექტის სისტემაზე, რომელიც შექმნილია ემოციური მდგომარეობების წასაკითხად ან ინტერპრეტაციისთვის ამ კონკრეტულ გარემოებებში. არ აქვს მნიშვნელობა, გამოიყენებთ თუ არა სახის ანალიზს, ხმის ამოცნობას თუ სხვა ბიომეტრიულ ინდიკატორებს.
არსებობს ერთი მცირე გამონაკლისი. ემოციების ამოცნობის ხელოვნური ინტელექტის გამოყენება შეგიძლიათ, თუ ის სამედიცინო ან უსაფრთხოების მიზნებს ემსახურება.
მაგალითად, მძღოლის სიფხიზლის მონიტორინგი უსაფრთხოების მიზნით ან პაციენტის დისტრესის გამოვლენა ჯანდაცვის დაწესებულებებში შეიძლება მოხვდეს ამ გამონაკლისში.
დისტანციური ბიომეტრიული იდენტიფიკაციის შეზღუდვები
თქვენ არ შეგიძლიათ გამოიყენოთ რეალურ დროში დისტანციური ბიომეტრიული იდენტიფიკაციის სისტემები საჯაროდ ხელმისაწვდომ ადგილებში სამართალდამცავი ორგანოების მიზნებისთვის, გარდა მკაცრად განსაზღვრული გარემოებებისა. ეს გამონაკლისები მოიცავს გატაცების ან ტრეფიკინგის მსხვერპლთა ძებნას, სიცოცხლისთვის მოსალოდნელი საფრთხის ან ტერორისტული თავდასხმების თავიდან აცილებას და სერიოზული დანაშაულების ჩადენაში ეჭვმიტანილების პოვნას, რაც ისჯება მინიმუმ ოთხი წლით თავისუფლების აღკვეთით.
თითოეული გამოყენებისთვის საჭიროა სასამართლო ორგანოს ან დამოუკიდებელი ადმინისტრაციული ორგანოს წინასწარი ნებართვა . გადაუდებელ სიტუაციებში, თქვენ შეგიძლიათ დაიწყოთ გამოყენება ნებართვის გარეშე, მაგრამ თანხმობა უნდა მოითხოვოთ 24 საათის განმავლობაში.
თუ ხელისუფლება უარყოფს ავტორიზაციას, თქვენ დაუყოვნებლივ უნდა შეწყვიტოთ სისტემის გამოყენება და წაშალოთ ყველა მონაცემი. ნიდერლანდებს შეუძლიათ დაადგინონ საკუთარი დეტალური წესები ამ გამონაკლისებისთვის ეროვნული კანონმდებლობის ფარგლებში.
თქვენმა ბიზნესმა თითოეული გამოყენების შესახებ უნდა აცნობოს შესაბამის ბაზრის ზედამხედველობის ორგანოს და ეროვნულ მონაცემთა დაცვის ორგანოს. წევრი სახელმწიფოები ევროკომისიას წარუდგენენ ყოველწლიურ ანგარიშებს რეალურ დროში დისტანციური ბიომეტრიული იდენტიფიკაციის გამოყენების შესახებ.
ჰოლანდიური ბიზნესების შესაბამისობის ვალდებულებები
ნიდერლანდურმა ბიზნესებმა ხელოვნური ინტელექტის შესაბამისობის მისაღწევად კონკრეტული ნაბიჯები უნდა გადადგან აკრძალული სისტემების იდენტიფიცირებით, მათი ოპერაციებიდან ამოღებით და სათანადო დოკუმენტაციის შენარჩუნებით. ნიდერლანდების მონაცემთა დაცვის სააგენტო და ნიდერლანდების ციფრული ინფრასტრუქტურის ორგანო ამ მოთხოვნებს დაარღვევს და მნიშვნელოვანი ჯარიმებით დააწესებს.
ოპერაციების დროს აკრძალული ხელოვნური ინტელექტის იდენტიფიცირება
თქვენ უნდა ჩაატაროთ საფუძვლიანი რისკების შეფასება თქვენს ორგანიზაციაში, რათა აღმოაჩინოთ ხელოვნური ინტელექტის სისტემები, რომლებმაც შეიძლება დაარღვიონ ახალი წესები. ეს ნიშნავს ნებისმიერი ტექნოლოგიის შესწავლას, რომელიც იყენებს მანიპულირების ტექნიკას, იყენებს დაუცველობებს, ახორციელებს სოციალურ ქულებს ან ახდენს რეალურ დროში ბიომეტრიულ იდენტიფიკაციას საზოგადოებრივ ადგილებში.
დაიწყეთ ამჟამად გამოყენებული ყველა ხელოვნური ინტელექტის სისტემის ინვენტარიზაციის შექმნით. დოკუმენტირება მოახდინეთ თითოეული სისტემის მუშაობის, მონაცემების დამუშავებისა და გავლენის შესახებ.
განსაკუთრებული ყურადღება მიაქციეთ სისტემებს, რომლებიც ურთიერთქმედებენ მომხმარებლებთან, თანამშრომლებთან ან საზოგადოებასთან. თქვენი რისკების შეფასებები უნდა აფასებდეს, შეუძლია თუ არა რომელიმე სისტემას ზიანი მიაყენოს ფუნდამენტურ უფლებებს.
ეს მოიცავს შემოწმებას, იღებენ თუ არა ხელოვნური ინტელექტის სისტემები გადაწყვეტილებებს ადამიანების შესახებ ქცევის, პიროვნული მახასიათებლების ან სოციალური კავშირების საფუძველზე. სისტემები, რომლებიც გამჭვირვალობის გარეშე აკონტროლებენ ან ქმნიან პროფილებს პიროვნებების შესახებ, დაუყოვნებლივ გადახედვას საჭიროებენ.
ითანამშრომლეთ თქვენს ტექნიკურ გუნდებთან, რათა გაიგოთ, თუ როგორ მუშაობს თითოეული ხელოვნური ინტელექტის სისტემა. თქვენ არ შეგიძლიათ დაეყრდნოთ მხოლოდ მომწოდებლების აღწერილობებს.
ნიდერლანდების მონაცემთა დაცვის სააგენტომ ნათლად განაცხადა, რომ თქვენ ხართ პასუხისმგებელი შესაბამისობაზე, მიუხედავად იმისა, ააშენეთ სისტემა თუ შეიძინეთ მესამე მხარისგან.
აკრძალული ხელოვნური ინტელექტის სისტემების თანდათანობით გაუქმება ან მოხსნა
თქვენ დაუყოვნებლივ უნდა შეწყვიტოთ აკრძალული ხელოვნური ინტელექტის პრაქტიკის გამოყენება. კანონი აკრძალული სისტემებისთვის შეღავათიან პერიოდს არ ითვალისწინებს.
თუ თქვენი რისკის შეფასება აკრძალულ პრაქტიკას გამოავლენს, დაუყოვნებლივ უნდა გამორთოთ იგი. შექმენით მოხსნის გეგმა, რომელიც ითვალისწინებს როგორც ტექნიკურ, ასევე ოპერაციულ ზემოქმედებას.
ზოგიერთი სისტემა შეიძლება ჩაშენებული იყოს უფრო დიდ პლატფორმებში ან დაკავშირებული იყოს რამდენიმე პროცესთან. თქვენ უნდა დარწმუნდეთ, რომ აკრძალული ელემენტების ამოღება არ არღვევს ბიზნესის ძირითად ფუნქციებს.
სისტემის გამორთვამდე განსაზღვრეთ, თუ როგორ გაუმკლავდებით მის მიერ ადრე შესრულებულ ამოცანებს. ეს შეიძლება ნიშნავდეს ხელით მუშაობაზე დაბრუნებას, განსხვავებული ტექნოლოგიის დანერგვას ან სამუშაო პროცესების სრულ რედიზაინს.
დოკუმენტირებული უნდა იყოს წაშლის პროცესის ყველა ეტაპი. ჩაიწერეთ, როდის აღმოაჩინეთ აკრძალული პრაქტიკა, რა ქმედებები განახორციელეთ და როდის მოხდა სისტემის სრული დეაქტივაცია.
მარეგულირებლები მოელიან მკაფიო მტკიცებულებას იმისა, რომ თქვენ დაუყოვნებლივ იმოქმედეთ დარღვევის აღმოჩენისთანავე.
ჩანაწერები და დოკუმენტაცია
თქვენ უნდა შეინახოთ ტექნიკური დოკუმენტაცია, რომელიც ადასტურებს აკრძალვის წესებთან შესაბამისობას. ეს მოიცავს თქვენი რისკის შეფასების ჩანაწერებს, ხელოვნური ინტელექტის სისტემებთან დაკავშირებულ გადაწყვეტილებებს და შესაბამისობის მისაღწევად განხორციელებულ ნებისმიერ ცვლილებას.
თქვენი დოკუმენტაცია უნდა მოიცავდეს:
- სისტემის ინვენტარიზაცია თითოეული ხელოვნური ინტელექტის აპლიკაციის აღწერილობებით
- რისკის შეფასების ანგარიშები პოტენციური დარღვევების თქვენი ანალიზის ჩვენება
- წაშლის ჩანაწერები დეტალურად აღწერეთ, თუ როდის და როგორ გააუქმეთ აკრძალული სისტემები
- ფუნდამენტურ უფლებებზე ზემოქმედების შეფასებები ნებისმიერი სასაზღვრო შემთხვევისთვის
ხელოვნური ინტელექტის შესახებ კანონი ამ მასალას აკრძალული პრაქტიკის დაცვის მიზნით შენახვის ფიქსირებულ პერიოდს არ ანიჭებს; მასში დადგენილი ჩანაწერების შენახვის პერიოდები, როგორიცაა მაღალი რისკის სისტემის ტექნიკური დოკუმენტაციის ათი წელი და ავტომატურად გენერირებული ჟურნალების მინიმალური პერიოდი, მაღალი რისკის თავშია მოცემული. შეინახეთ თქვენი შეფასებები იმდენ ხანს, რამდენ ხანსაც მათი მოთხოვნა შესაძლებელია, რაც პრაქტიკაში სისტემიდან გამომდინარე ნებისმიერი პრეტენზიის ხანდაზმულობის ვადას ნიშნავს და მათი მოთხოვნის შემთხვევაში წარდგენის შესაძლებლობა. ხელისუფლებისთვის არასწორი, არასრული ან შეცდომაში შემყვანი ინფორმაციის მიწოდება ცალკე ისჯება რეგულაციის 99-ე მუხლით.
ზოგადი აღწერილობები ან მარკეტინგული მასალები არ აკმაყოფილებს ამ მოთხოვნას. მოიცავდეს ტექნიკურ სპეციფიკაციებს, მონაცემთა ნაკადებს და გადაწყვეტილების მიღების პროცესებს.
ხელოვნური ინტელექტის სისტემების შეცვლის ან ახლის დანერგვისას განაახლეთ თქვენი დოკუმენტაცია. თქვენ გჭირდებათ მუდმივი პროცესები იმის უზრუნველსაყოფად, რომ მომავალში სისტემებში აკრძალული პრაქტიკები არ შემოვიდეს.
ხელოვნური ინტელექტის წიგნიერების მოთხოვნები და პერსონალის მომზადება
2025 წლის 2 თებერვლიდან, ნიდერლანდურმა ბიზნესებმა, რომლებიც ხელოვნური ინტელექტის სისტემებს აწვდიან ან ნერგავენ, უნდა უზრუნველყონ, რომ მათ თანამშრომლებს ჰქონდეთ ხელოვნური ინტელექტის შესახებ საკმარისი წიგნიერება. ეს ვალდებულება ვრცელდება იმის მიუხედავად, იყენებთ თუ არა მაღალი თუ დაბალი რისკის მქონე ხელოვნური ინტელექტის სისტემებს.
დოკუმენტირებული სასწავლო პროგრამები უნდა იყოს მორგებული თქვენი თანამშრომლების როლებსა და ტექნიკურ გამოცდილებაზე.
ხელოვნური ინტელექტის წიგნიერების ვალდებულების ახსნა
ევროკავშირის ხელოვნური ინტელექტის შესახებ კანონის მე-4 მუხლი ყველა ხელოვნური ინტელექტის მიმწოდებელსა და განმთავსებელს აკისრებს სამართლებრივ მოთხოვნას , უზრუნველყონ თავიანთ პერსონალში ხელოვნური ინტელექტის შესახებ საკმარისი წიგნიერება. თქვენ უნდა მიიღოთ ზომები იმის უზრუნველსაყოფად, რომ ხელოვნური ინტელექტის სისტემებთან მომუშავე პერსონალმა და კონტრაქტორებმა გაიგონ ის ტექნოლოგია, რომელთანაც მუშაობენ.
ხელოვნური ინტელექტის წიგნიერების ვალდებულება ვრცელდება ნებისმიერ პირზე, ვინც თქვენი სახელით მართავს, იყენებს ან იღებს გადაწყვეტილებებს ხელოვნური ინტელექტის სისტემებთან დაკავშირებით. ეს მოიცავს ტექნიკურ პერსონალს, რომელიც ქმნის ან ინარჩუნებს ხელოვნური ინტელექტის სისტემებს, ასევე არატექნიკურ თანამშრომლებს, რომლებიც იყენებენ ხელოვნური ინტელექტის ინსტრუმენტებს ყოველდღიურ საქმიანობაში.
ხელოვნური ინტელექტის წიგნიერების ტრენინგი უნდა მოარგოთ თითოეული ადამიანის როლს, ტექნიკურ ცოდნას, გამოცდილებას, განათლებას და იმ კონკრეტულ კონტექსტს, რომელშიც ისინი იყენებენ ხელოვნური ინტელექტის სისტემებს. პროგრამული უზრუნველყოფის შემქმნელს, რომელიც ხელოვნური ინტელექტის მოდელებს ნერგავს, განსხვავებული ტრენინგი სჭირდება, ვიდრე მომხმარებელთა მომსახურების წარმომადგენელს, რომელიც იყენებს ხელოვნურ ინტელექტზე დაფუძნებულ ჩატბოტებს.
ვალდებულება მოითხოვს, რომ თქვენ „ყველაფერი გააკეთოთ“ წიგნიერების ადეკვატური დონის უზრუნველსაყოფად. თქვენ არ შეგიძლიათ უბრალოდ შესთავაზოთ სიმბოლური ტრენინგი და მოითხოვოთ შესაბამისობა.
ეფექტური სასწავლო პროგრამების შემუშავება
თქვენი ხელოვნური ინტელექტის წიგნიერების პროგრამა უნდა ეხებოდეს თქვენს ორგანიზაციაში გამოყენებულ კონკრეტულ ხელოვნურ ინტელექტუალურ სისტემებს და არა ზოგად ინფორმაციას. თანამშრომლებმა უნდა გაიგონ, თუ როგორ ფუნქციონირებს კონკრეტული ხელოვნური ინტელექტის ინსტრუმენტები, რომლებთანაც ისინი მუშაობენ, მათი შეზღუდვები და პოტენციური რისკები.
ტრენინგის შინაარსი უნდა მოიცავდეს:
- თქვენი სისტემებისთვის შესაბამისი ხელოვნური ინტელექტის ძირითადი კონცეფციები
- როგორ ვიმუშაოთ ხელოვნური ინტელექტის ხელსაწყოებით სწორად
- ხელოვნური ინტელექტის შედეგებში პოტენციური მიკერძოებები და შეცდომები
- როდესაც ადამიანის ზედამხედველობა აუცილებელია
- თქვენი ორგანიზაციის ხელოვნური ინტელექტის პოლიტიკა და პროცედურები
თქვენ უნდა გაითვალისწინოთ თითოეული თანამშრომლის საწყისი ცოდნის დონე. ტექნიკურ პერსონალს შეიძლება დასჭირდეს მოდელის შემუშავებასა და ტესტირებაში მოწინავე ტრენინგი, ხოლო ზოგად მომხმარებლებს სჭირდებათ პრაქტიკული ხელმძღვანელობა ხელოვნური ინტელექტის შედეგების ინტერპრეტაციასა და შედეგების არასწორი სახით ამოცნობაში.
ტრენინგის ჩატარება შეიძლება სხვადასხვა ფორმით მოხდეს, მათ შორის სემინარებით, ონლაინ კურსებით, სამუშაო ადგილზე კოუჩინგით ან გარე პროგრამებით. ფორმატს ნაკლები მნიშვნელობა აქვს, ვიდრე იმის უზრუნველყოფას, რომ პერსონალმა რეალურად შეიძინოს საჭირო ცოდნა და უნარები.
ხელოვნური ინტელექტის წიგნიერების აქტივობების დოკუმენტირება
თქვენ უნდა შეინახოთ თქვენი ხელოვნური ინტელექტის წიგნიერების ტრენინგის აქტივობების ჩანაწერები, რათა დაადასტუროთ ევროკავშირის ხელოვნური ინტელექტის შესახებ აქტის დაცვა. ეს დოკუმენტაცია წარმოადგენს იმის დასტურს, რომ თქვენ შეასრულეთ თქვენი სამართლებრივი ვალდებულებები.
თქვენი ჩანაწერები უნდა შეიცავდეს:
- სასწავლო პროგრამის შინაარსი და მასალები
- იმ თანამშრომლების სია, რომლებმაც გაიარეს ტრენინგი
- ტრენინგების თარიღები და ხანგრძლივობა
- შეფასების შედეგები (ასეთის არსებობის შემთხვევაში)
- როგორ განსაზღვრეთ წიგნიერების შესაბამისი დონეები სხვადასხვა როლისთვის
დოკუმენტირება მოახდინეთ თქვენს ორგანიზაციაში ხელოვნური ინტელექტის წიგნიერების საჭიროებების იდენტიფიცირების პროცესის შესახებ. ეს მოიცავს იმას, თუ როგორ შეაფასეთ, რომელ თანამშრომლებს სჭირდებათ ტრენინგი და რა კონკრეტული ცოდნა სჭირდებათ მათ ხელოვნური ინტელექტის სისტემებთან ურთიერთქმედების საფუძველზე.
შეინახეთ ჩანაწერები, თუ როგორ აახლებთ ტრენინგებს თქვენი ხელოვნური ინტელექტის სისტემების ცვლილებისას ან თქვენს ორგანიზაციაში ახალი თანამშრომლების შემოერთებისას. ხელოვნური ინტელექტის წიგნიერება ერთჯერადი მოთხოვნა არ არის, არამედ მუდმივი ვალდებულებაა, რომელიც უნდა მოერგოს თქვენს მიერ ხელოვნური ინტელექტის ტექნოლოგიის მზარდ გამოყენებას.
ზედამხედველობა, აღსრულება და ჯარიმები
ევროკავშირის ხელოვნური ინტელექტის შესახებ კანონი აწესებს მრავალშრიან აღსრულების სტრუქტურას, რომელიც შეუსრულებლობისთვის მნიშვნელოვან ფინანსურ ჯარიმებს ითვალისწინებს. ნიდერლანდური ბიზნესები ზედამხედველობის ქვეშ არიან როგორც ეროვნული, ასევე ევროპული ხელისუფლების მხრიდან, ხოლო აკრძალული ხელოვნური ინტელექტის პრაქტიკისთვის ჯარიმები მსოფლიო წლიური ბრუნვის 7%-მდე აღწევს.
ნიდერლანდების და ევროკავშირის საზედამხედველო ორგანოები
ნიდერლანდებში საზედამხედველო არქიტექტურის დანერგვის პროცესი ჯერ კიდევ მიმდინარეობს. ნიდერლანდების მონაცემთა დაცვის ორგანოს კოორდინაციის როლი აქვს და ციფრული ინფრასტრუქტურის ნიდერლანდების ორგანოსთან ერთად მოამზადა ბაზრის ზედამხედველობის ჩარჩო, თუმცა კომპეტენტური ორგანოების დანიშვნისა და რეგულაციით გათვალისწინებული უფლებამოსილებების მინიჭების შესახებ კანონი ჯერ არ არის დასრულებული. მანამდე კი, არსებული მარეგულირებლები საკუთარი მანდატის ფარგლებში აღასრულებენ მოთხოვნებს და ნიდერლანდების მონაცემთა დაცვის ორგანო რჩება იმ ორგანოდ, რომელსაც უნდა აკონტროლოს ნებისმიერი ადგილი, სადაც ხელოვნური ინტელექტის სისტემა პერსონალურ მონაცემებს ამუშავებს.
ევროპულ დონეზე, ევროკომისია ზედამხედველობას უწევს ხელოვნური ინტელექტის შესახებ კანონის განხორციელებას ყველა წევრ სახელმწიფოში. კომისიაში შექმნილი ევროპული ხელოვნური ინტელექტის ოფისი კოორდინაციას უწევს აღსრულების საქმიანობას და უზრუნველყოფს ტექნიკურ ექსპერტიზას.
ევროპის ხელოვნური ინტელექტის საბჭო, რომელიც შედგება წევრი სახელმწიფოების წარმომადგენლებისგან, მხარს უჭერს რეგულაციის თანმიმდევრულ გამოყენებას და კონსულტაციებს უწევს კომისიას, ასევე მუშაობს მონაცემთა დაცვის ორგანოებთან ერთად იმ ადგილებში, სადაც ხელოვნური ინტელექტის სისტემები ამუშავებენ პერსონალურ მონაცემებს.
თუ ხელოვნური ინტელექტის სისტემებს ევროკავშირის რამდენიმე ქვეყანაში მართავთ, შესაძლოა, თქვენზე კონტროლის ქვეშ მოექცნენ სამეთვალყურეო ორგანოები თითოეულ იურისდიქციაში, სადაც თქვენი სისტემებია განლაგებული ან მოქმედებს.
სანქციები და სამოქალაქო პასუხისმგებლობა
მე-5 მუხლით გათვალისწინებული აკრძალული პრაქტიკის დარღვევა იწვევს 35 მილიონ ევრომდე ან თქვენი მსოფლიო წლიური ბრუნვის 7%-მდე ჯარიმას, რომელიც უფრო მაღალია. თავად აკრძალვა ძალაშია 2025 წლის 2 თებერვლიდან, თუმცა რეგულაციის საჯარიმო დებულებები ძალაში შედის 2025 წლის 2 აგვისტოდან, ამიტომ ჯარიმის დაკისრება შესაძლებელია ამ თარიღიდან მოყოლებული. სხვა ვალდებულებების დარღვევისთვის ჯარიმა უფრო დაბალია: თხუთმეტი მილიონი ევრო ან სამი პროცენტი მაღალი რისკის მოთხოვნების შეუსრულებლობის შემთხვევაში და შვიდი და ნახევარი მილიონი ევრო ან ერთი პროცენტი არასწორი ან შეცდომაში შემყვანი ინფორმაციის ორგანოსთვის მიწოდების შემთხვევაში.
ევროკავშირის მართლმსაჯულების სასამართლოს (CJEU) აქვს უმაღლესი უფლებამოსილება ხელოვნური ინტელექტის შესახებ კანონის დებულებების ინტერპრეტაციის საკითხზე. ეროვნულ სასამართლოებს შეუძლიათ კითხვებით მიმართონ ევროკავშირის მართლმსაჯულების სასამართლოს, როდესაც წარმოიშობა დავა იმის შესახებ, თუ რა წარმოადგენს აკრძალულ პრაქტიკას.
ადმინისტრაციული ჯარიმების გარდა, აკრძალული სისტემით დაზარალებულ პირს შეუძლია სამოქალაქო სარჩელის შეტანა. ამისთვის არ არსებობს ჰარმონიზებული ევროპული რეჟიმი: ხელოვნური ინტელექტის პასუხისმგებლობის შესახებ შემოთავაზებული დირექტივა გაუქმებულია, ამიტომ ნიდერლანდებში სარჩელის შეტანა ხდება ნიდერლანდების კანონმდებლობის შესაბამისად, როგორც წესი, როგორც უკანონო ქმედება სამოქალაქო კოდექსის 6:162 მუხლის შესაბამისად, ხოლო მე-5 მუხლის დარღვევა წარმოადგენს იმის მტკიცებულებას, რომ დაირღვა კანონით გათვალისწინებული ვალდებულება. წევრ სახელმწიფოებს ასევე შეუძლიათ დამატებითი ჯარიმების დაწესება ეროვნულ კანონმდებლობაში.
ევროპული და ეროვნული ორგანოების რეკომენდაციები
ევროკომისიამ აკრძალული ხელოვნური ინტელექტის პრაქტიკის შესახებ სახელმძღვანელო პრინციპები 2025 წლის 4 თებერვალს გამოაქვეყნა. ეს დოკუმენტები განმარტავს, თუ როგორ განმარტავენ ხელისუფლება მე-5 მუხლის აკრძალვებს და მოჰყავს შესაბამისობის პრაქტიკული მაგალითები.
მიუხედავად იმისა, რომ ეს სახელმძღვანელო პრინციპები სავალდებულო არ არის, ისინი აღსრულების პრიორიტეტების შესახებ ღირებულ ინფორმაციას გვაწვდიან. მხოლოდ ევროპის სასამართლოს შეუძლია ავტორიტეტული სამართლებრივი ინტერპრეტაციების მიწოდება.
ნიდერლანდების საზედამხედველო ორგანოებმა შეიძლება გამოსცენ დამატებითი ეროვნული რეკომენდაციები, რომლებიც მორგებულია ადგილობრივი ბიზნეს კონტექსტებზე. თქვენ უნდა აკონტროლოთ როგორც ევროპული, ასევე ნიდერლანდური ორგანოების განახლებები, აღსრულების მიდგომების განვითარებასთან ერთად.
საზღვრისპირა ურთიერთგაგების ხელშესაწყობად, სახელმძღვანელო პრინციპები ხელმისაწვდომია ევროკავშირის ყველა ენაზე.
ხშირად დასმული შეკითხვები
ევროპული ხელოვნური ინტელექტის შესახებ კანონს 2025 წლის თებერვლიდან ნიდერლანდურ ბიზნესებზე გავლენის მოხდენის კონკრეტული მოთხოვნები და შეზღუდვები მოჰყვება. ეს რეგულაციები კრძალავს ხელოვნური ინტელექტის გარკვეულ პრაქტიკას, მოითხოვს შესაბამისობის ზომებს და აწესებს ჯარიმებს დარღვევებისთვის.
რა ახალი რეგულაციები მოქმედებს ნიდერლანდურ კომპანიებში ხელოვნური ინტელექტის გამოყენებასთან დაკავშირებით თებერვლიდან?
ევროპული ხელოვნური ინტელექტის შესახებ კანონი ძალაში შევიდა 2024 წლის 1 აგვისტოს, ხოლო აკრძალვების პირველი ნაკრები 2025 წლის 2 თებერვალს ამოქმედდა. ეს რეგულაციები ვრცელდება ყველა ნიდერლანდურ ბიზნესზე, რომელიც ავითარებს, ნერგავს ან იყენებს ხელოვნური ინტელექტის სისტემებს ევროკავშირის ფარგლებში.
კანონი კრძალავს მანიპულაციურ ხელოვნურ ინტელექტს, რომელიც იყენებს ქვეცნობიერ ტექნიკას იმ გადაწყვეტილებებზე გავლენის მოხდენისთვის, რომლებსაც ადამიანები ჩვეულებრივ არ მიიღებდნენ. ასევე აკრძალულია ხელოვნური ინტელექტის სისტემები, რომლებიც იყენებენ ასაკის, შეზღუდული შესაძლებლობების ან სოციალურ-ეკონომიკური სტატუსის საფუძველზე დაუცველობას.
სოციალური შეფასების სისტემები, რომლებიც აფასებენ პირებს მათი სოციალური ქცევის ან პიროვნული მახასიათებლების მიხედვით, სრული აკრძალვის წინაშე დგანან. რეგულაციები ასევე კრძალავს ხელოვნურ ინტელექტზე დაფუძნებულ რისკის შეფასებებს, რომლებიც დანაშაულებს მხოლოდ პროფილირების ან პიროვნული თვისებების ანალიზის გზით პროგნოზირებენ და არა დანაშაულებრივ საქმიანობასთან დაკავშირებული ფაქტების მეშვეობით.
ბიომეტრიული კატეგორიზაციის სისტემები, რომლებიც სახის გამოსახულებების ან თითის ანაბეჭდების მიხედვით რასის, პოლიტიკური შეხედულებების, პროფკავშირის წევრობის, რელიგიური შეხედულებების ან სექსუალური ორიენტაციის დადგენას ახდენენ, დაუშვებელია. საჯარო სივრცეებში რეალურ დროში დისტანციური ბიომეტრიული იდენტიფიკაცია აკრძალულია, გარდა მკაცრად განსაზღვრული სიტუაციებისა, რომლებსაც აქვთ კონკრეტული სამართლებრივი უფლებამოსილება.
როგორ მოქმედებს 2025 წლის თებერვლის ნიდერლანდების ხელოვნური ინტელექტის სახელმძღვანელო პრინციპები მომხმარებელთა მონაცემთა კონფიდენციალურობასა და დაცვაზე?
ხელოვნური ინტელექტის შესახებ კანონი მონაცემთა დაცვის არსებულ რეგულაციებთან, მათ შორის GDPR-თან ერთად მუშაობს. ნიდერლანდების მონაცემთა დაცვის ორგანო იძლევა რეკომენდაციებს იმის შესახებ, თუ როგორ უნდა შეესაბამებოდეს ხელოვნური ინტელექტის სისტემებმა მონაცემთა დაცვის წესებს, განსაკუთრებით ავტომატიზირებული გადაწყვეტილების მიღების კუთხით.
სახის ამოცნობის მონაცემთა ბაზების შესაქმნელად ან გაფართოების მიზნით ინტერნეტიდან სახის სურათების ან კამერის ჩანაწერების არამიზნობრივი ამოღება აკრძალულია. ეს შეზღუდვა იცავს პირთა კონფიდენციალურობის უფლებებს და ხელს უშლის ბიომეტრიული მონაცემების არაავტორიზებული შეგროვებას.
ხელოვნური ინტელექტის სისტემებმა მთელი მათი სასიცოცხლო ციკლის განმავლობაში უნდა დაიცვან ფუნდამენტური უფლებები. მაღალი რისკის მქონე ხელოვნური ინტელექტის სისტემების გამოყენებისას, საჯარო ორგანოებმა და საჯარო მომსახურების მიმწოდებელმა სუბიექტებმა უნდა ჩაატარონ ფუნდამენტურ უფლებებზე ზემოქმედების შეფასება.
ბოლო დროს საკანონმდებლო ცვლილებების გამო, ნიდერლანდურ ბიზნესებს ხელოვნურ ინტელექტზე დაფუძნებული რომელი აქტივობების განხორციელება აღარ შეუძლიათ?
თქვენს ბიზნესს არ შეუძლია ემოციების ამოცნობის სისტემების გამოყენება სამუშაო ადგილზე ან საგანმანათლებლო გარემოში. ეს სისტემები აკრძალულია მათი სარგებლისა თუ გამოყენების შემთხვევების მიუხედავად.
თქვენ არ შეგიძლიათ განათავსოთ ხელოვნური ინტელექტის სისტემები, რომლებიც მანიპულირებენ ადამიანებზე ქვეცნობიერი ტექნიკის გამოყენებით ან იყენებენ მათ დაუცველობას. ეს მოიცავს სისტემებს, რომლებიც მიზნად ისახავენ ინდივიდებს მათი შეზღუდული შესაძლებლობების, სოციალური სტატუსის ან ასაკის მიხედვით, რათა გავლენა მოახდინონ მათ ქცევაზე.
ბიომეტრიული კატეგორიზაციის სისტემები, რომლებიც ადამიანებს მგრძნობიარე მახასიათებლების მიხედვით კლასიფიკაციას ახდენენ, აკრძალულია. თქვენ არ შეგიძლიათ გამოიყენოთ ხელოვნური ინტელექტი ადამიანის რასის, პოლიტიკური შეხედულებების, რელიგიური შეხედულებების ან სექსუალური ორიენტაციის დასადგენად მათი ბიომეტრიული მონაცემებიდან.
სოციალური შეფასების სისტემები სრულიად აკრძალულია. თქვენ არ შეგიძლიათ დანერგოთ ხელოვნური ინტელექტი, რომელიც აფასებს ან კლასიფიცირებს ადამიანებს მათი სოციალური ქცევის ან პიროვნული მახასიათებლების მიხედვით.
საჯაროდ ხელმისაწვდომ სივრცეებში რეალურ დროში დისტანციური ბიომეტრიული იდენტიფიკაცია კომერციული მიზნებისთვის აკრძალულია . სამართალდამცავ ორგანოებს ასეთი სისტემების გამოყენება მხოლოდ ვიწროდ განსაზღვრულ გარემოებებში შეუძლიათ, შესაბამისი სამართლებრივი ნებართვით.
რა ნაბიჯები უნდა გადადგან ნიდერლანდურმა კორპორაციებმა, რათა თავიანთი ხელოვნური ინტელექტის სისტემები თებერვალში დადგენილ შესაბამისობის სტანდარტებთან შესაბამისობაში მოიყვანონ?
თქვენ უნდა დაადგინოთ ყველა ხელოვნური ინტელექტის სისტემა, რომელსაც თქვენი ორგანიზაცია ამჟამად იყენებს ან ნერგავს. ამ ინვენტარიზაციამ თითოეული სისტემა უნდა დააკატეგორიოს ხელოვნური ინტელექტის შესახებ კანონში განსაზღვრული რისკების კლასიფიკაციის მიხედვით.
შეამოწმეთ თქვენი ხელოვნური ინტელექტის სისტემები აკრძალული პრაქტიკის სიის მიხედვით. თუ იყენებთ რომელიმე აკრძალულ სისტემას, დაუყოვნებლივ უნდა ამოიღოთ ისინი მარეგულირებელი ორგანოების მიერ დაწესებული ჯარიმების თავიდან ასაცილებლად.
დოკუმენტირება გაუკეთეთ თქვენი ხელოვნური ინტელექტის სისტემების მიზნებს, მონაცემთა წყაროებსა და გადაწყვეტილების მიღების პროცესებს. ეს დოკუმენტაცია ხელს უწყობს შესაბამისობის დემონსტრირებას და მხარს უჭერს ნებისმიერ საჭირო ზემოქმედების შეფასებას.
მაღალი რისკის მქონე სისტემებს საკუთარი ვალდებულებები აქვთ, მათ შორის ევროპულ მონაცემთა ბაზაში რეგისტრაცია და, საჯარო ორგანოებისა და საჯარო მომსახურების მიმწოდებლებისთვის, ფუნდამენტურ უფლებებზე ზემოქმედების შეფასება. ეს რეჟიმი გადაიდო: III დანართში ჩამოთვლილი სისტემებისთვის, როგორიცაა დაქირავება, საკრედიტო ქულების დადგენა და დასაქმების მართვის ინსტრუმენტები, ის 2027 წლის 2 დეკემბერს იწყება, ხოლო მაღალი რისკის მქონე სისტემებისთვის, რომლებიც რეგულირებადი პროდუქტების უსაფრთხოების კომპონენტებს წარმოადგენენ, 2028 წლის 2 აგვისტოს.
გადაამზადეთ თქვენი პერსონალი ახალი მოთხოვნების შესახებ და შექმენით შიდა პროცესები შესაბამისობის მუდმივი მონიტორინგისთვის. თქვენი შესაბამისობის პროგრამა უნდა მოიცავდეს ხელოვნური ინტელექტის სისტემების რეგულარულ გადახედვას, რათა უზრუნველყოთ, რომ ისინი მარეგულირებელ საზღვრებში დარჩნენ.
არსებობს თუ არა ხელოვნური ინტელექტის რაიმე სექტორული აკრძალვა, რომლის შესახებაც ჰოლანდიურმა ფირმებმა ახალი რეგულაციების დაცვით უნდა იცოდნენ?
საგანმანათლებლო სექტორის ორგანიზაციები კონკრეტული შეზღუდვების წინაშე დგანან. ემოციების ამოცნობის სისტემების გამოყენება სტუდენტების მონიტორინგისთვის ან მათი ემოციური მდგომარეობის შესაფასებლად არ შეიძლება, მიუხედავად იმისა, თუ რა საგანმანათლებლო სარგებელი მოაქვს მათ.
სამუშაო გარემოს მსგავსი შეზღუდვები აქვს. დამსაქმებლებს არ შეუძლიათ ემოციების ამოცნობის ხელოვნური ინტელექტის გამოყენება თანამშრომლების ემოციური მდგომარეობის ან სამუშაო აქტივობების დროს რეაქციების მონიტორინგისთვის.
სამართალდამცავ ორგანოებს ბიომეტრიული იდენტიფიკაციის სისტემებისთვის შეზღუდული გამონაკლისები აქვთ. ეს გამონაკლისები მოითხოვს მკაცრ სამართლებრივ ნებართვას და ვრცელდება მხოლოდ კონკრეტულ სიტუაციებზე, როგორიცაა გატაცების მსხვერპლთა ძებნა, გარდაუვალი საფრთხის თავიდან აცილება ან სერიოზული დანაშაულების ჩადენაში ეჭვმიტანილების თვალყურის დევნება.
საჯარო მომსახურების მიმწოდებელი საჯარო ორგანოები ზოგადი აკრძალვების გარდა დამატებით მოთხოვნებს აწყდებიან. თქვენ უნდა ჩაატაროთ ფუნდამენტურ უფლებებზე ზემოქმედების შეფასება ყველა მაღალი რისკის შემცველი ხელოვნური ინტელექტის სისტემისთვის და დაარეგისტრიროთ ეს სისტემები ევროპულ მონაცემთა ბაზაში.
რა სანქციებია გათვალისწინებული ნიდერლანდების ხელოვნური ინტელექტის შეზღუდვების 2025 წლის თებერვალში შემოღებული შეზღუდვების შეუსრულებლობისთვის?
მარეგულირებლებს შეუძლიათ ხელოვნური ინტელექტის შესახებ კანონის შეუსრულებლობისთვის მნიშვნელოვანი ჯარიმების დაკისრება. ჯარიმების სტრუქტურა დარღვევის სიმძიმის მიხედვით ეტაპობრივ მიდგომას მიჰყვება.
აკრძალული ხელოვნური ინტელექტის სისტემების გამოყენება დარღვევის ყველაზე სერიოზულ კატეგორიას წარმოადგენს. თუ აკრძალული სისტემების გამოყენებას 2025 წლის თებერვლის ვადის შემდეგაც გააგრძელებთ, თქვენი ორგანიზაცია მნიშვნელოვანი ფინანსური ჯარიმების წინაშე აღმოჩნდება.
ჯარიმის ზუსტი ოდენობა დამოკიდებულია იმაზე, თქვენი ორგანიზაცია კვალიფიცირდება, როგორც მცირე და საშუალო საწარმო თუ უფრო დიდი კომპანია. მარეგულირებელი ორგანოები ითვალისწინებენ ისეთ ფაქტორებს, როგორიცაა დარღვევის ხასიათი, მისი ხანგრძლივობა და მიყენებული ზიანი.
ფინანსური ჯარიმების გარდა, შეუსრულებლობამ შეიძლება ზიანი მიაყენოს თქვენი ორგანიზაციის რეპუტაციას. აკრძალული ხელოვნური ინტელექტის სისტემებით დაზარალებულ პირებს შეუძლიათ დამატებითი სამართლებრივი დაცვის საშუალებების გამოყენება სამოქალაქო სამართალწარმოების გზით.
ნიდერლანდების მონაცემთა დაცვის ორგანოს და სხვა მარეგულირებელ ორგანოებს აქვთ აღსრულების უფლებამოსილებები. მათ შეუძლიათ გამოიძიონ საჩივრები, ჩაატარონ აუდიტი და მოითხოვონ აკრძალული პრაქტიკის დაუყოვნებლივი შეწყვეტა.
Law & More ბიზნესებს ვურჩევთ ხელოვნური ინტელექტის შესახებ კანონის პრაქტიკაში გამოყენებასთან დაკავშირებით: უკვე გამოყენებული სისტემების შემოწმება მე-5 მუხლის აკრძალვებთან მიმართებაში, იმის შეფასება, თუ სად დგას გამოყენების შემთხვევა დაშვებულ და აკრძალულ პრაქტიკას შორის ზღვართან ახლოს, ხელოვნური ინტელექტის შესახებ წიგნიერების მე-4 მუხლით გათვალისწინებული ზომების დაწესება და 2027 წლის დეკემბრიდან მომდინარე მაღალი რისკის შემცველი ვალდებულებებისთვის მომზადება. იმ შემთხვევაში, თუ ხელოვნური ინტელექტის სისტემა ასევე ამუშავებს პერსონალურ მონაცემებს, ჩვენ ამავდროულად ვაფასებთ GDPR-ის პოზიციას, რადგან სწორედ აქ არის დღეს შესაძლებელი აღსრულება.


