როდესაც ხელოვნური ინტელექტის სისტემა დანაშაულში ეხვევა, კანონი თითს არ იშვერს მანქანაზე. ამის ნაცვლად, სისხლისსამართლებრივი პასუხისმგებლობა ადამიანურ მოქმედ პირამდე მიდის— იქნება ეს მომხმარებელი, პროგრამისტი თუ მწარმოებელი — რომელსაც ან ჰქონდა კონტროლი ხელოვნური ინტელექტის ქმედებებზე, ან ვერ შეძლო მის მიერ მიყენებული ზიანის თავიდან აცილება.

ხელოვნური ინტელექტისა და სისხლისსამართლებრივი პასუხისმგებლობის გაშიფვრა

წარმოიდგინეთ ეს: ხელოვნური ინტელექტით აღჭურვილი დრონი ავარიაში მოჰყავს, დაპროგრამებული მარშრუტიდან გადაუხვევს და სერიოზულ ავარიას იწვევს. სისხლის სამართლის ბრალდებები წაუყენებენ. მაგრამ ვინ ან რა არის სინამდვილეში პასუხისმგებელი?

სასამართლოებს დრონის საქმეზე სისხლისსამართლებრივი დევნა ნამდვილად არ შეუძლიათ. ჩვენი მთელი სამართლებრივი სისტემა ადამიანის განზრახვასა და ქმედებაზეა აგებული. ეს ფუნდამენტური საკითხი გვაიძულებს, ალგორითმის ფენები გადავშალოთ და ვიპოვოთ ის ადამიანი, ვისი გადაწყვეტილებებით — ან დაუდევრობით — გამოწვეული იყო მავნე შედეგით.

კრიმინალის ცენტრალური საყრდენი სამართალი არის კონცეფცია მენს რეა, ანუ „დამნაშავე გონება“. იმისათვის, რომ ადამიანს დამნაშავედ ცნონ, მას უნდა ჰქონდეს დამნაშავე გონება, იქნება ეს განზრახ, დაუფიქრებელი თუ გაუფრთხილებელი. ხელოვნურ ინტელექტს, რაც არ უნდა დახვეწილი იყოს, უბრალოდ არ გააჩნია ცნობიერება, ემოციები ან ნამდვილი განზრახვის უნარი. ის მუშაობს კოდსა და მონაცემებზე და არა მორალურ კომპასზე.

რადგან ხელოვნურ ინტელექტს არ შეუძლია „დამნაშავე გონების“ ჩამოყალიბება, არსებული სამართლებრივი ჩარჩოებით მისი სისხლისსამართლებრივი პასუხისმგებლობა არ შეიძლება დადგეს. ყურადღება უცვლელად ინსტრუმენტიდან (ხელოვნური ინტელექტი) მის მომხმარებელზე ან შემქმნელზე გადადის.

ეს გარდამტეხი ცვლილება იურიდიულ ყურადღებას პირდაპირ ხელოვნური ინტელექტის სასიცოცხლო ციკლში ჩართულ ადამიანებზე ამახვილებს. ხელოვნური ინტელექტისა და სისხლისსამართლებრივი პასუხისმგებლობის სწორად გასაშიფრად, უმნიშვნელოვანესი ხდება იმის გაგება, თუ როგორ მართავენ ადამიანები ამ სისტემებს, მათ შორის ისეთ საკითხებს, როგორიცაა სწრაფი ინჟინერიის სირთულეები.

მანქანის უკან მდგომი ადამიანის იდენტიფიცირება

როდესაც სასამართლო ხელოვნურ ინტელექტთან დაკავშირებულ დანაშაულს იკვლევს, მისი პირველი ამოცანაა, თვალყური ადევნოს ადამიანური მოქმედების ჯაჭვს და დაადგინოს, სად არის რეალურად პასუხისმგებელი. საქმის სპეციფიკიდან გამომდინარე, შესაძლოა, რამდენიმე სხვადასხვა მხარე აღმოჩნდეს პასუხისმგებლობის წინაშე.

იმის გარკვევაში, თუ სად შეიძლება დაეკისროს პასუხისმგებლობა, ქვემოთ მოცემულ ცხრილში მოცემულია ძირითადი ადამიანური მოქმედი პირები და მათი პასუხისმგებლობის მინიჭების სამართლებრივი დასაბუთება.

ხელოვნური ინტელექტის ქმედებებისთვის ადამიანის ანგარიშვალდებულების რუკა

როგორც ხედავთ, პასუხისმგებლობის კანდიდატები, როგორც წესი, რამდენიმე ძირითად კატეგორიად იყოფა. მიუხედავად იმისა, რომ ტექნოლოგია ახალია, სამართლებრივი პრინციპები ხშირად კარგად არის ჩამოყალიბებული.

საბოლოო ჯამში, კანონი ცდილობს უპასუხოს მარტივ, ფუნდამენტურ კითხვას: რომელ ადამიანს ჰქონდა ძალაუფლება და შესაძლებლობა, თავიდან აეცილებინა დანაშაული? ამ პირის იდენტიფიცირებით, სამართლებრივ სისტემას შეუძლია გამოიყენოს სისხლისსამართლებრივი პასუხისმგებლობის დადგენილი პრინციპები, მაშინაც კი, როდესაც საქმე ეხება დღევანდელ ურთულეს ტექნოლოგიას.

ტრადიციული კანონების გამოყენება თანამედროვე ხელოვნური ინტელექტის დანაშაულებზე

როდესაც დანაშაულში ისეთი ახალი ტექნოლოგია, როგორიცაა ხელოვნური ინტელექტი, ერთვება, შეიძლება იფიქროთ, რომ ჩვენი საუკუნოვანი სამართლებრივი სისტემები სრულიად მოუმზადებელია. სინამდვილეში კი, სასამართლოები ნულიდან არ იწყებენ. ისინი არსებულ სამართლებრივ დოქტრინებს ადაპტირებენ, რათა გაარკვიონ, ვინ არის პასუხისმგებელი, როდესაც მანქანა დანაშაულს სჩადის, ფაქტობრივად, ეძებენ „ფარდის მიღმა მყოფ ადამიანს“.

ეს მიდგომა გულისხმობს ხელოვნური ინტელექტის კვადრატული სამაგრის ტრადიციული სისხლის სამართლის მრგვალ ხვრელში მოთავსებას. ხელოვნური ინტელექტისთვის სრულიად ახალი კანონების გამოგონების ნაცვლად, სამართლებრივი სისტემა პასუხისმგებლობის დამკვიდრებულ პრინციპებს იყენებს იმ ადამიანების მიმართ, რომლებიც ქმნიან, ახორციელებენ და აკონტროლებენ ამ ინტელექტუალურ სისტემებს. ყურადღება მყარად რჩება ადამიანურ მოქმედებაზე, მაშინაც კი, როდესაც ქმედებებს ალგორითმი ახორციელებს.

ფუნქციური ჩადენის დოქტრინა

ამ ხარვეზის აღმოსაფხვრელად გამოყენებული ძირითადი კონცეფცია, განსაკუთრებით ისეთ იურისდიქციებში, როგორიცაა ნიდერლანდები, არის ფუნქციური ჩადენაასე წარმოიდგინეთ: თუ ვინმე დანაშაულის ჩასადენად ჩაქუჩს იყენებს, ჩვენ პასუხისმგებლობას ამ პირს ვაკისრებთ და არა ჩაქუჩს. ფუნქციური ჩადენა უბრალოდ ამ ლოგიკას მაღალგანვითარებულ ინსტრუმენტებზე, მათ შორის ხელოვნურ ინტელექტზე ავრცელებს.

ამ დოქტრინის თანახმად, პირი შეიძლება ჩაითვალოს ხელოვნური ინტელექტის მიერ ჩადენილი დანაშაულის „ფუნქციურ დამნაშავედ“, თუ მას ჰქონდა ძალაუფლება, დაედგინა მანქანის ქცევა და იღებდა დანაშაულის ჩადენის რისკს. ეს ჩარჩო სასიცოცხლოდ მნიშვნელოვანია, რადგან ბევრ შემთხვევაში, ნიდერლანდების კანონმდებლობაში არ არსებობს კონკრეტული სისხლისსამართლებრივი პასუხისმგებლობის დებულებები ხელოვნური ინტელექტის სისტემებისთვის. ამის ნაცვლად, ხელოვნურ ინტელექტთან დაკავშირებული პასუხისმგებლობის მოსაგვარებლად გამოიყენება ზოგადი ჩარჩოები, სადაც ფუნქციური ჩადენა წარმოადგენს ადამიანის პასუხისმგებლობის დაკისრების ძირითად ინსტრუმენტს.

ეს ნიშნავს, რომ კანონი ორ ძირითად ელემენტს ითვალისწინებს:

1. სიმძლავრე: ჰქონდა თუ არა ამ პირს უფლებამოსილება ან უნარი, გაეკონტროლებინა ან შეეჩერებინა ხელოვნური ინტელექტის ქმედებები?
2. მიღება: შეგნებულად მიიღეს თუ არა მათ რისკი, რომ ხელოვნური ინტელექტის ქცევას შეიძლებოდა კრიმინალური შედეგი გამოეწვია?

თუ ორივე კითხვაზე „დიახ“-ს უპასუხებთ, ხელოვნური ინტელექტის უკან მდგომი პირი შეიძლება სისხლის სამართლის პასუხისგებაში მიეცეს, ისევე როგორც თავად ჩაიდინა ეს ქმედება.

კორპორაციული სისხლისსამართლებრივი პასუხისმგებლობა

პასუხისმგებლობის ძიება მხოლოდ ინდივიდებით არ შემოიფარგლება. როდესაც კომპანიის მიერ გამოყენებული ხელოვნური ინტელექტის სისტემა ზიანს აყენებს, მთელი ორგანიზაცია შეიძლება პასუხისმგებლობის აღების პრინციპის შესაბამისად. კორპორაციული სისხლისსამართლებრივი პასუხისმგებლობა.

ეს მაშინ ხდება, როდესაც დანაშაული შეიძლება მიეწეროს კომპანიის კულტურას, პოლიტიკას ან ზოგად დაუდევრობას. მაგალითად, თუ კომპანია ხელოვნური ინტელექტით მართულ ფინანსურ სავაჭრო ბოტს ბაზარზე უხარისხო უსაფრთხოების ტესტირებით აჩქარებს და ის საბოლოოდ ბაზრის მანიპულირებას მოახდენს, კომპანიას შეიძლება თავად წაუყენონ სისხლის სამართლის ბრალდება.

იურიდიული მსჯელობა აქ იმაში მდგომარეობს, რომ ხელოვნური ინტელექტის ქმედებები ასახავს ორგანიზაციის კოლექტიურ გადაწყვეტილებებსა და პრიორიტეტებს. სათანადო ზედამხედველობის განხორციელების შეუძლებლობა ან კორპორატიული კულტურა, რომელიც მოგებას უსაფრთხოებაზე მაღლა აყენებს, შეიძლება საკმარისი საფუძველი იყოს პასუხისმგებლობისთვის.

ეს უზრუნველყოფს, რომ კომპანიებს არ შეეძლოთ უბრალოდ ალგორითმების უკან დამალვა, რათა თავი აარიდონ წინასწარ განჭვრეტად მიყენებულ ზიანს. კომპიუტერული და კიბერდანაშაულის სამართლებრივი ჩარჩო ნიდერლანდებში გვთავაზობს უფრო ღრმა ხედვას იმის შესახებ, თუ როგორ აგებენ ორგანიზაციებს პასუხს ციფრული დანაშაულებისთვის.

პროდუქტის პასუხისმგებლობა სისხლის სამართალში

კიდევ ერთი კარგად ჩამოყალიბებული სამართლებრივი გზაა პროდუქტის პასუხისმგებლობამიუხედავად იმისა, რომ ჩვენ ამას, როგორც წესი, სამოქალაქო საქმეებს ვუკავშირებთ — მაგალითად, გაუმართავი ტოსტერის მიერ ხანძრის გამომწვევი მიზეზი — მისი პრინციპები აბსოლუტურად შეიძლება გამოყენებულ იქნას სისხლის სამართლის კონტექსტში.

თუ მწარმოებელი შეგნებულად ან დაუდევრობით გამოუშვებს ხელოვნური ინტელექტის პროდუქტს საშიში დეფექტით და ეს დეფექტი პირდაპირ დანაშაულამდე მიგვიყვანს, მას შეიძლება სისხლის სამართლის პასუხისმგებლობა დაეკისროს. წარმოიდგინეთ ავტონომიური დაცვის დრონი, რომელიც შექმნილია აგრესიული „დევნის“ ალგორითმით და ვერ ასხვავებს რეალურ საფრთხეებსა და უდანაშაულო გამვლელებს.

თუ მწარმოებელმა იცოდა ამ დეფექტის შესახებ, მაგრამ მაინც გაყიდა პროდუქტი და დრონი ვინმეს დააზიანებს, მას შეიძლება სისხლის სამართლის პასუხისგებაში მიეცეს დაუდევრობის ან დაუდევრობისთვის. ეს მწარმოებლებს მაღალ სტანდარტებს ავალდებულებს, რაც აიძულებს მათ უზრუნველყონ, რომ მათი ხელოვნური ინტელექტის სისტემები არა მხოლოდ ფუნქციონალურია, არამედ საკმაოდ უსაფრთხოა მათი დანიშნულებისამებრ გამოყენებისა და ნებისმიერი პროგნოზირებადი ბოროტად გამოყენებისთვის. კანონის არსში ისმის კითხვა, იყო თუ არა სისხლის სამართლის შედეგი პროდუქტის დიზაინის პროგნოზირებადი შედეგი.

როდესაც ხელოვნური ინტელექტის სისტემები რეალურ სამყაროში ზიანს აყენებენ

იურიდიული დოქტრინები შეიძლება აბსტრაქტულად მოგეჩვენოთ მანამ, სანამ რეალობას არ შეეჯახება. როდესაც ხელოვნური ინტელექტის სისტემა შეცდომას უშვებს, შედეგები მხოლოდ თეორიული არ არის - ის შეიძლება დამანგრეველი იყოს, სიცოცხლე დაანგრიოს და საზოგადოების ნდობა შეარყიოს. იმისათვის, რომ ნამდვილად გავიგოთ, რა ხდება, ჩვენ უნდა გავცდეთ კონცეფციებს და განვიხილოთ შემთხვევა, როდესაც ალგორითმის გადაწყვეტილებებმა ეროვნული კრიზისი გამოიწვია.

ზუსტად ეს მოხდა ნიდერლანდებში ბავშვზე ზრუნვის შეღავათების სკანდალის დროს, რომელიც ცნობილია როგორც... „ტოესლაგენაფერა“ეს არის ნათელი და ძლიერი მაგალითი იმისა, თუ როგორ შეუძლია ხელოვნურ ინტელექტს, ცუდად შექმნილი და უკონტროლოდ დატოვებული, უზარმაზარი ტანჯვა მიაყენოს ადამიანებს. ეს შემთხვევის შესწავლა მთელ დებატებს საფუძვლად უდევს. ხელოვნური ინტელექტი და სისხლის სამართალი სისტემური უკმარისობის ხელშესახებ, დაუვიწყარ ისტორიაში.

კატასტროფებისთვის შექმნილი სისტემა

სკანდალი ნიდერლანდების საგადასახადო ორგანოების მიერ გამოყენებული თვითსწავლების ალგორითმით დაიწყო. მისი მიზანი საკმაოდ მარტივი იყო: ბავშვის მოვლის შეღავათების მიმღებ ოჯახებში პოტენციური თაღლითობის გამოვლენა. თუმცა, მისი აღსრულება კატასტროფა აღმოჩნდა. ალგორითმი სრული „შავი ყუთი“ იყო, მისი გადაწყვეტილების მიღების პროცესი კი საიდუმლო იყო იმ ჩინოვნიკებისთვისაც კი, რომლებიც მასზე იყვნენ დამოკიდებული.

ინდივიდუალური შემთხვევების სამართლიანი შეფასების ნაცვლად, ალგორითმმა ათასობით მშობელი თაღლითად მონიშნა, ხშირად მცირე ადმინისტრაციული შეცდომების გამო. შედეგები სწრაფი და სასტიკი იყო. ოჯახებს ათიათასობით ევროს დაბრუნება დაევალათ, როგორც წესი, აშკარა მიზეზის ან გასაჩივრების სამართლიანი შესაძლებლობის გარეშე. ხალხმა დაკარგა სახლები, სამსახური და დანაზოგი. სიცოცხლე დაინგრა.

ამ სისტემურმა გაუმართაობამ გამოავლინა ალგორითმული მიკერძოებისა და გაუმჭვირვალე გადაწყვეტილების მიღების ფარული საფრთხეები. ეს არ იყო მხოლოდ ტექნიკური ხარვეზი; ეს იყო ადამიანური კატასტროფა, რომელიც გამოწვეული იყო არასრულყოფილი ტექნოლოგიითა და ზედამხედველობის ნაკლებობით.

„Toeslagenaffaire“ გახდა ცნობილი მაგალითი იმისა, თუ როგორ შეუძლია თვითსწავლების ხელოვნურ ინტელექტს მიკერძოებული, არასწორი გადაწყვეტილებების მიღება, რასაც სერიოზული შედეგები მოჰყვება რეალურ სამყაროში. საპასუხოდ, ნიდერლანდების მთავრობამ გამოაქვეყნა „დიზაინით დისკრიმინაციის აკრძალვის სახელმძღვანელო“. 2021, რომელიც ალგორითმული გამჭვირვალობისა და ფუნდამენტური უფლებების დაცვისკენ მოუწოდებს, რათა მსგავსი კატასტროფა აღარ განმეორდეს.

პასუხისმგებლობის უპასუხო კითხვა

სკანდალმა მტკივნეული ეროვნული დისკუსია გამოიწვია: ვინ არის სინამდვილეში პასუხისმგებელი, როდესაც მანქანის ქმედებები ასეთ ფართომასშტაბიან ზიანს იწვევს? ალგორითმის სასამართლოში გატანა შეუძლებელია, მაგრამ მისმა გადაწყვეტილებებმა უდავო ზიანი მიაყენა. მის მიერ წამოჭრილი სამართლებრივი და ეთიკური საკითხები ახლა ხელოვნური ინტელექტის მმართველობის მომავლის ცენტრალურ ნაწილს წარმოადგენს.

• ალგორითმული მიკერძოება: სისტემა, როგორც ჩანს, არაპროპორციულად ისახავდა მიზნად ორმაგი მოქალაქეობის მქონე ოჯახებს, რაც სერიოზულ კითხვებს ბადებდა დისკრიმინაციასთან დაკავშირებით. შეიძლება თუ არა ალგორითმი იყოს დისკრიმინაციული და ვინ არის პასუხისმგებელი ასეთ შემთხვევაში?
• გამჭვირვალობის ნაკლებობა: ოფიციალურ პირებს ახსნა არ შეეძლოთ რატომ ალგორითმმა გარკვეული ოჯახები მონიშნა, რაც მსხვერპლებს საკუთარი თავის დაცვას შეუძლებელს ხდიდა. ამ გაუგებრობამ სისტემის ხარვეზები რეალური შემოწმებისგან დაიცვა.
• ადამიანის გატაცება: შესაძლოა, ყველაზე შემაშფოთებელი იყო „ავტომატიზაციის მიკერძოების“ აშკარა შემთხვევა - ადამიანების ტენდენცია, ზედმეტად დაეყრდნონ და ბრმად მიიღონ ავტომატიზირებული სისტემების შედეგები. საჯარო მოხელეები ენდობოდნენ ალგორითმის განაჩენებს, რამაც გამოიწვია არასწორი ბრალდებების კასკადი.

მიუხედავად იმისა, რომ ამ საქმეს, ძირითადად, ადმინისტრაციული და სამოქალაქო შედეგები მოჰყვა, ის ხაზს უსვამს იმავე ანგარიშვალდებულების ხარვეზებს, რომლებიც სისხლის სამართლის დებატებშია. სხვა ავტონომიურ სისტემებთან პარალელები აშკარაა, რაც ამ საქმესთან დაკავშირებულ სამართლებრივ გამოწვევებში ჩანს. საკამათო თვითმართვადი ავტომობილების ავარიები, სადაც ბრალეულობის დაკისრებაც ისეთივე რთულია.

ნიდერლანდებში ბავშვზე ზრუნვის სკანდალი იმის შეხსენებაა, რომ როდესაც გადაწყვეტილებებს ხელოვნურ ინტელექტს ვანდობთ, პასუხისმგებლობა უბრალოდ არ ქრება. ის იფანტება და იფარება, მაგრამ საბოლოოდ ის რჩება იმ ადამიანებთან, რომლებიც ამ მძლავრ სისტემებს ქმნიან, ნერგავენ და ზედამხედველობენ.

როგორ აკონტროლებს გლობალური რეგულაციები მაღალი რისკის მქონე ხელოვნურ ინტელექტს

ხელოვნური ინტელექტის ქმედითუნარიანობის ზრდასთან ერთად, მსოფლიოს მთავრობები საბოლოოდ გადადიან დისკუსიიდან გადამწყვეტ ქმედებებზე. ხელოვნურ ინტელექტს ტექნოლოგიურ ველურ დასავლეთად მოპყრობის დღეები აშკარად დათვლილია. მიმდინარეობს პროაქტიული რეგულირების მნიშვნელოვანი ძალისხმევა, რომლის მიზანია მკაფიო სამართლებრივი დამცავი ბარიერების დაწესება ნებისმიერი შეუქცევადი ზიანის მიყენებამდე.

ეს გლობალური მოძრაობა არ ეხება ინოვაციების მკაცრი აკრძალვებით ჩახშობას. ამის ნაცვლად, მარეგულირებლები გონივრულად იყენებენ ნიუანსირებულ მიდგომას. რისკზე დაფუძნებული მიდგომაშეგიძლიათ, ეს ისე წარმოიდგინოთ, როგორც სატრანსპორტო საშუალებების რეგულირებას: ჩვენ ყველა მანქანას არ ვაკრძალავთ, მაგრამ ძლიერი სარბოლო მოდელებისა და მძიმე სატვირთო მანქანებისთვის წარმოუდგენლად მკაცრი წესები გვაქვს, რადგან მათი ზიანის პოტენციალი გაცილებით დიდია. ანალოგიურად, ხელოვნური ინტელექტის ახალი რეგულაციები კონკრეტული მაღალი რისკის მქონე აპლიკაციების მიმართაა მიმართული, ხოლო დაბალი რისკის მქონე აპლიკაციების აყვავების საშუალებას იძლევა.

ამ მცდელობის სათავეში ევროკავშირის ღირსშესანიშნაობაა AI აქტიეს კანონმდებლობა გლობალურ საორიენტაციო ნიშნულად გადაქცევას გულისხმობს, რომელიც ხელოვნური ინტელექტის სისტემებს კატეგორიებად დაყოფს მათი ზიანის მიყენების პოტენციალის მიხედვით და შესაბამისად გამოიყენებს წესებს. ეს პრაგმატული სტრატეგიაა, რომელიც შექმნილია მოქალაქეების დასაცავად ტექნოლოგიური პროგრესის ჩახშობის გარეშე.

წითელი ხაზების გავლება მიუღებელი ხელოვნური ინტელექტის აკრძალვისთვის

ევროკავშირის ხელოვნური ინტელექტის შესახებ კანონი და მსგავსი ჩარჩოები მხოლოდ რისკების მართვას არ ეხება; ისინი ასევე ქვიშაში მკაცრი ეთიკური საზღვრების გავლებასაც ეხება. ხელოვნური ინტელექტის ზოგიერთი აპლიკაცია იმდენად საშიშად ითვლება ჩვენი ფუნდამენტური უფლებებისთვის, რომ ისინი მთლიანად აკრძალულია. ეს ის სისტემებია, რომლებიც, მარეგულირებლების თქმით, „მიუღებელ რისკს“ წარმოადგენენ.

აკრძალული ხელოვნური ინტელექტის ეს კატეგორია მოიცავს ტექნოლოგიებს, რომლებიც ფუნდამენტურად ეწინააღმდეგება დემოკრატიულ ღირებულებებსა და ადამიანის ღირსებას. მთავარი მიზანია, თავიდან ავიცილოთ ყველაზე დისტოპიური სცენარების რეალობად ქცევა.

აკრძალული პრაქტიკის სია კონკრეტული და მიზანმიმართულია:

• მანიპულაციური ტექნოლოგიები: ნებისმიერი სისტემა, რომელიც იყენებს ქვეცნობიერ ტექნიკას ადამიანის ქცევის დამახინჯების მიზნით ისე, რომ შესაძლოა მას ფიზიკური ან ფსიქოლოგიური ზიანი მიაყენოს, მკაცრად აკრძალულია.
• სოციალური შეფასების სისტემები: აკრძალულია ხელოვნური ინტელექტი, რომელსაც საჯარო ხელისუფლების წარმომადგენლები იყენებენ „სოციალური ქულების“ შესაფასებლად — ანუ ადამიანების სანდოობის შესაფასებლად ან კლასიფიკაციისთვის მათი სოციალური ქცევის ან პიროვნული თვისებების საფუძველზე.
• დაუცველობების ექსპლუატაცია: ასევე აკრძალულია ისეთი ხელოვნური ინტელექტის გამოყენება, რომელიც იყენებს კონკრეტული ჯგუფების დაუცველობას მათი ასაკის ან რაიმე ფიზიკური ან ფსიქიკური შეზღუდვის გამო.

ეს აკრძალვები ცალსახა გზავნილს აგზავნის: ზოგიერთი ტექნოლოგიური გზა უბრალოდ ძალიან საშიშია გასავლელი. ისინი დებატების არსს ეხება. ხელოვნური ინტელექტი და სისხლის სამართალი ისეთი სისტემების განლაგების თავიდან აცილებით, რომლებიც თანდაყოლილი აქვთ მავნე ან ჩაგვრის მიზნებისთვის.

რეალურ სამყაროზე გავლენა ნიდერლანდებში

ეს რეგულაციები მომავლის აბსტრაქტული ცნებები არ არის; მათ ხელშესახები გავლენა ახლავე აქვთ. მაგალითად, ნიდერლანდებში მთავრობამ სწრაფად დაიწყო ევროკავშირის მიმართულებასთან შესაბამისობაში მოყვანა.

2025 წლის დასაწყისიდან ნიდერლანდები რისკების კონტროლის მიზნით, განსაკუთრებით სისხლის სამართლისა და საჯარო სექტორის აპლიკაციებში, კონკრეტულ ხელოვნური ინტელექტის სისტემებზე აკრძალვებს აწესებს. ეს მოიცავს დანაშაულისთვის ხელოვნური ინტელექტის მიერ დაფუძნებული პროგნოზირებადი რისკების შეფასების აკრძალვას, პრაქტიკას, რომელიც ადრე პროგნოზირებად პოლიციაში გამოიყენებოდა.

ნიდერლანდების მასშტაბით ორგანიზაციებს მოეთხოვებოდათ ეტაპობრივად გაეუქმებინათ ეს აკრძალული ხელოვნური ინტელექტის ხელსაწყოები... თებერვალი 2025 ან მარეგულირებლებისგან მნიშვნელოვანი ჯარიმების რისკის ქვეშ დააყენებთ. ეს გადამწყვეტი ქმედება აჩვენებს, თუ რამდენად სერიოზულად ეკიდებიან მთავრობები მაღალი რისკის მქონე ხელოვნურ ინტელექტს, რაც ბიზნესებისთვის მკაფიო იურიდიულ იმპერატივს ქმნის, რომ დაიცვან ისინი. შეგიძლიათ მეტი გაიგოთ კონკრეტული წესების შესახებ. ნიდერლანდების მთავრობამ ხელოვნური ინტელექტის პრაქტიკა აკრძალა და როგორ მოქმედებენ ისინი ორგანიზაციებზე.

ბიზნესებისა და დეველოპერებისთვის დასკვნა ნათელია: ამ ახალ მარეგულირებელ გარემოსთან გაგება და ადაპტაცია აღარ არის არჩევითი. სამართლებრივი ლანდშაფტი მყარდება და შეუსრულებლობისთვის ჯარიმები მკაცრია, რაც ოდესღაც ეთიკურ მოსაზრებებს კონკრეტულ ბიზნეს რისკებად აქცევს. ამ წესების დაცვა ახლა ნებისმიერი ხელოვნური ინტელექტის სისტემის დანერგვის კრიტიკულ ნაწილს წარმოადგენს.

მომავლის პერსპექტივა: ხელოვნური ინტელექტის პასუხისმგებლობის უზრუნველყოფის ახალი გზები

რადგან ხელოვნური ინტელექტი სულ უფრო და უფრო ავტონომიური ხდება, ჩვენი არსებული სამართლებრივი სახელმძღვანელოები მოძველებულად გვეჩვენება. ძველი მეთოდები - უბრალოდ თითის გაშვერა ადამიან მომხმარებელზე ან თავდაპირველ პროგრამისტზე - უბრალოდ არ მუშაობს, როდესაც ხელოვნური ინტელექტი საკუთარი გადაწყვეტილებების მიღებას იწყებს. ეს რეალობა აიძულებს იურიდიულ აზროვნებას, დასვას საკმაოდ რთული კითხვა: რა არის შემდეგი?

საუბარი პასუხისმგებლობის ნამდვილად ახალ მოდელებზე გადადის, ისეთებზე, რომლებიც შექმნილია განვითარებული ხელოვნური ინტელექტის უნიკალური გამოწვევებისთვის. აქ ჩვენ არ ვსაუბრობთ მცირე ცვლილებებზე. ეს არის ფუნდამენტური გადახედვა იმის შესახებ, თუ რას ნიშნავს პასუხისმგებლობის დაკისრება, როდესაც ქმედების უკან მდგომი „გონება“ რთული ალგორითმია. ეს იდეები აყალიბებს სამართლიანობის მომავალს სამყაროში, რომელიც დღითიდღე უფრო და უფრო ავტომატიზირდება.

ელექტრონული პიროვნების შესახებ საკამათო დებატები

ერთ-ერთი ყველაზე თამამი და საკამათო იდეა, რომელიც განიხილება, არის ელექტრონული პიროვნებაკონცეფცია გულისხმობს გარკვეული მოწინავე ხელოვნური ინტელექტისთვის შეზღუდული იურიდიული სტატუსის მინიჭებას, ისევე როგორც კორპორაციას „იურიდიულ პირად“ მიიჩნევენ. საქმე არ ეხება ხელოვნურ ინტელექტს ადამიანის უფლებების მინიჭებას. საქმე ეხება ისეთი ერთეულის შექმნას, რომელსაც შეეძლება ქონების ფლობა, კონტრაქტების დადება და, რაც მთავარია, პასუხისმგებლობის აღება მიყენებული ზიანისთვის.

წარმოიდგინეთ სრულად ავტონომიური ხელოვნური ინტელექტის საინვესტიციო ფონდი, რომელიც რაიმე გაუთვალისწინებელი სავაჭრო სტრატეგიით ბაზრის კრახს იწვევს. ელექტრონული პიროვნების არსებობის შემთხვევაში, თავად ხელოვნური ინტელექტი შეიძლება პასუხისმგებლობის აღების საგანი გახდეს და მისი აქტივები გამოყენებული იქნას დაკარგული ფულის ანაზღაურებისთვის. ეს ქმნის პასუხისმგებლობის სამიზნეს მაშინ, როდესაც აშკარაა, რომ არც ერთი ადამიანი არ არის დამნაშავე.

მიუხედავად ამისა, იდეას სერიოზული წინააღმდეგობა ხვდება.

• მორალური საფრთხე: კრიტიკოსები წუხან, რომ ეს ციხიდან თავის დაღწევის საშუალებაა. შეუძლიათ თუ არა დეველოპერებსა და კომპანიებს, პასუხისმგებლობის თავიდან ასაცილებლად, უბრალოდ დაადანაშაულონ თავიანთი ხელოვნური ინტელექტის ქმნილებები? ეს რეალური რისკია.
• ეთიკური შეშფოთება: ბევრისთვის, მანქანას რაიმე სახის პიროვნულობის მინიჭება სახიფათო ფილოსოფიურ ზღვარს კვეთს, რაც ადამიანსა და ტექნოლოგიას შორის განსხვავებას ბუნდოვანს ხდის.
• პრაქტიკულობა: თეორიულად კარგად ჟღერს, მაგრამ როგორ იმუშავებს ის სინამდვილეში? როგორ იხდის ხელოვნური ინტელექტი ჯარიმას ან „მოიხდის სასჯელს“? არაადამიანური არსების დასჯის რეალურ გამოწვევებს უზარმაზარი მნიშვნელობა აქვს.

განაწილებული პასუხისმგებლობა მიწოდების ჯაჭვში

ბევრად უფრო პრაქტიკული და პოპულარული მოდელია განაწილებული პასუხისმგებლობაერთი დამნაშავეს ძებნის ნაცვლად, ეს მიდგომა პასუხისმგებლობას ანაწილებს ხელოვნური ინტელექტის შექმნასა და განლაგებაში ჩართულ ყველა პირზე. წარმოიდგინეთ ეს, როგორც დიდი სამშენებლო ავარია - ბრალი შეიძლება გაიყოს არქიტექტორს, მასალების მიმწოდებელს, სამშენებლო ფირმას და ობიექტის მენეჯერს შორის.

როდესაც ხელოვნური ინტელექტი ვერ ხერხდება, ბრალი შეიძლება რამდენიმე მხარეს შორის გაიყოს:

1. მონაცემთა მომწოდებელი: თუ ისინი მიკერძოებულ ან დამახინჯებულ სასწავლო მონაცემებს მოგვაწვდიდნენ.
2. ალგორითმის შემქმნელი: აშკარა, პროგნოზირებადი რისკების მქონე სისტემის შესაქმნელად.
3. მწარმოებელი: ხელოვნური ინტელექტის პროდუქტში სათანადო უსაფრთხოების შემოწმების გარეშე ჩასასმელად.
4. საბოლოო მომხმარებელი: სისტემის დაუდევარი გამოყენების ან უსაფრთხოების გაფრთხილებების იგნორირებისთვის.

ეს მოდელი აცნობიერებს, რომ ხელოვნური ინტელექტის ჩავარდნები ხშირად სისტემური პრობლემებია, რომლებიც სხვადასხვა ადამიანის მიერ მიღებული გადაწყვეტილებების მთელი ჯაჭვიდან წარმოიშობა. ეს პროცესის ყველა მონაწილეს უბიძგებს, თავიდან ბოლომდე სერიოზულად მოეკიდონ უსაფრთხოებასა და ეთიკას.

ერთობლივი პასუხისმგებლობის ეს იდეა ახალი არ არის; ის ასახავს პრინციპებს, რომლებსაც სხვა პროფესიულ სფეროებში ვხედავთ. როდესაც ხელოვნური ინტელექტის მართვის გზებს განვიხილავთ, ღირს არსებული ჩარჩოების განხილვა, როგორიცაა აკადემიური მთლიანობის სახელმძღვანელო პრინციპები, რომლებიც განსაზღვრავენ განათლებაში ხელოვნური ინტელექტის პასუხისმგებლობით გამოყენების საერთო ეთიკურ სტანდარტებს.

შავი ყუთის პრობლემის მოგვარება

შესაძლოა, ნებისმიერი სამომავლო სამართლებრივი მოდელის ყველაზე დიდი დაბრკოლება იყოს „შავი ყუთის“ პრობლემადღევანდელი ყველაზე ძლიერი ხელოვნური ინტელექტის სისტემების უმეტესობა, განსაკუთრებით ღრმა სწავლების მოდელები, ისე მუშაობს, რომ საიდუმლოდ რჩება მათი შემქმნელებისთვისაც კი. მათ შეუძლიათ პასუხის გაცემა საკუთარი ნამუშევრის დემონსტრირების გარეშე.

გამჭვირვალობის ეს ნაკლებობა წარმოუდგენლად ართულებს იმის გარკვევას, რატომ ხელოვნურმა ინტელექტმა დაუშვა შეცდომა, რამაც დანაშაული გამოიწვია. იყო ეს დიზაინის ხარვეზი? არასწორი მონაცემები? თუ რაიმე უცნაური, არაპროგნოზირებადი ქცევა, რომლის მოახლოებაც არავის უწინასწარმეტყველებია? პასუხების გარეშე, ბრალის დაკისრება მხოლოდ ვარაუდია.

მომავლის ნებისმიერ ქმედით სამართლებრივ ჩარჩოს მოუწევს მეტი გამჭვირვალობის მოთხოვნა. ეს ნიშნავს ისეთი ფუნქციების მოთხოვნას, როგორიცაა მკაფიო აუდიტის კვალი და „ახსნადობა“, რაც უზრუნველყოფს, რომ როდესაც რამე არასწორად მიდის, გამომძიებლებს მაინც შეეძლოთ მანქანის ციფრული ნაკვალევის გაყოლა წარუმატებლობის წყაროს მოსაძებნად.

ხელოვნური ინტელექტის სამართლებრივი რისკების შემცირების პრაქტიკული ჩარჩო

რთულ გზაჯვარედინზე ნავიგაცია ხელოვნური ინტელექტი და სისხლის სამართალი ეს მხოლოდ თეორიულ გაგებაზე მეტს მოითხოვს. ის მოითხოვს პროაქტიულ, პრაქტიკულ ნაბიჯებს თქვენი სამართლებრივი ზემოქმედების მინიმიზაციისთვის. ნებისმიერი ორგანიზაციისთვის, რომელიც ხელოვნურ ინტელექტს ავითარებს ან იყენებს, ძლიერი შიდა ჩარჩოს შექმნა მხოლოდ კარგი ეთიკა არ არის - ეს არის კრიტიკული ბიზნეს აუცილებლობა იმის უზრუნველსაყოფად, რომ თქვენ არ ხართ პასუხისმგებელი, როდესაც მანქანა დანაშაულს სჩადის.

ეს ჩარჩო სამ ძირითად საყრდენზე უნდა იყოს აგებული: გამჭვირვალობის, სამართლიანობისდა ანგარიშვალდებულებისეს პრინციპები წარმოიდგინეთ, როგორც თქვენი სახელმძღვანელო ხელოვნური ინტელექტის სისტემების შესაქმნელად, რომლებიც არა მხოლოდ ეფექტური, არამედ იურიდიულად დაცულიც იქნება. ამ ღირებულებების თქვენი განვითარების სასიცოცხლო ციკლში თავიდანვე ჩანერგვით, თქვენ ქმნით ძლიერ დაცვას დაუდევრობის ან დაუდევრობის პოტენციური პრეტენზიებისგან.

თქვენი ხელოვნური ინტელექტის ანგარიშვალდებულების საკონტროლო სიის შექმნა

ამ პრინციპების პრაქტიკაში გადასაყვანად, ორგანიზაციებს შეუძლიათ დანერგონ აუცილებელი პრაქტიკის მკაფიო საკონტროლო სია. ეს ნაბიჯები ხელს უწყობს თქვენი სათანადო გულმოდგინების დამოწმებადი ჩანაწერის შექმნას, რაც ადასტურებს, რომ თქვენ მიიღეთ გონივრული ზომები პროგნოზირებადი ზიანის თავიდან ასაცილებლად.

დაიწყეთ ამ ძირითადი ქმედებებით:

• ალგორითმული ზემოქმედების შეფასების (AIAs) ჩატარება: ხელოვნური ინტელექტის სისტემის დანერგვაზე ფიქრის დაწყებამდეც კი, საჭიროა მისი პოტენციური საზოგადოებრივი ზეგავლენის მკაცრად შეფასება. ეს გულისხმობს მიკერძოების, დისკრიმინაციული შედეგების და ბოროტად გამოყენების ნებისმიერი პოტენციალის შეფასებას, რამაც შეიძლება სისხლის სამართლის პასუხისმგებლობა გამოიწვიოს.
• დაამყარეთ მონაცემთა ძლიერი მმართველობა: თქვენი ხელოვნური ინტელექტი იმდენად კარგია, რამდენადაც მისი მონაცემები კარგია. უმნიშვნელოვანესია მკაცრი პროტოკოლების დანერგვა იმის უზრუნველსაყოფად, რომ თქვენი სასწავლო მონაცემები იყოს ზუსტი, წარმომადგენლობითი და თავისუფალი მიკერძოებისგან, რამაც შეიძლება ხელოვნური ინტელექტი უკანონო გადაწყვეტილებების მიღებამდე მიიყვანოს.
• ზედმიწევნითი აუდიტის კვალის შენარჩუნება: ხელოვნური ინტელექტის ოპერაციების, მისი გადაწყვეტილებებისა და ნებისმიერი ადამიანის ჩარევის დეტალური ჟურნალები შეინახეთ. ინციდენტის შემთხვევაში, ეს ჩანაწერები აუცილებელია იმის გამოსაძიებლად, თუ რა მოხდა არასწორად და იმის დემონსტრირებისთვის, თუ როგორ ფუნქციონირებდა სისტემა.

ნებისმიერი რისკის შემცირების სტრატეგიის კრიტიკული კომპონენტია „ადამიანი-ციკლში“ (HITL) სისტემების დანერგვა მაღალი რისკის შემცველი გადაწყვეტილებებისთვის. ეს უზრუნველყოფს, რომ ადამიანი ოპერატორი ინარჩუნებს საბოლოო კონტროლს და შეუძლია ხელოვნური ინტელექტის გადალახვა, რითაც შეინარჩუნებს პასუხისმგებლობის მკაფიო ჯაჭვს.

ადამიანის ზედამხედველობა, როგორც საბოლოო დაცვა

„ადამიანის ციკლში ჩართვის“ მოდელი უბრალოდ ტექნიკურ მახასიათებელზე მეტია; ის იურიდიული მახასიათებელია. კრიტიკული ქმედებებისთვის ადამიანის დადასტურების მოთხოვნით, ორგანიზაციას შეუძლია ეფექტურად დაასაბუთოს, რომ ხელოვნური ინტელექტი უბრალოდ დახვეწილი ინსტრუმენტია და არა ავტონომიური აგენტი, რომელიც დამოუკიდებლად იღებს გადაწყვეტილებებს. ეს მიდგომა მნიშვნელოვნად აძლიერებს სამართლებრივ პოზიციას, რომ საბოლოო, გადამწყვეტი არჩევანი ადამიანმა და არა მანქანამ გააკეთა.

საბოლოო ჯამში, ამ სამართლებრივი რისკების შემცირება გულისხმობს პასუხისმგებლობის კულტურის ჩამოყალიბებას, რომელიც მთელ ორგანიზაციაში გაჟღენთილია. ნიუანსების გააზრება პასუხისმგებლობისა და ზიანის ანაზღაურების მოთხოვნები ნიდერლანდებში შეუძლია უზრუნველყოს ღირებული კონტექსტი ამ შიდა პოლიტიკის შემუშავებისთვის. მიზანია შეიქმნას ხელოვნური ინტელექტი, რომელიც არა მხოლოდ ინოვაციურია, არამედ გამჭვირვალე, ეთიკური და აშკარად ადამიანის კონტროლის ქვეშ იქნება.

ხშირად დასმული კითხვები ხელოვნური ინტელექტისა და სისხლის სამართლის შესახებ

ხელოვნური ინტელექტისა და სისხლის სამართლის გადაკვეთა რთული სფეროა, რომელიც ამჟამად პასუხებზე მეტ კითხვას შეიცავს. რადგან ხელოვნური ინტელექტი სულ უფრო მეტად ერევა ჩვენს ყოველდღიურ ცხოვრებაში, სასიცოცხლოდ მნიშვნელოვანია იმის გაგება, თუ ვინ არის პასუხისმგებელი, როდესაც ინტელექტუალური სისტემა დანაშაულში მონაწილეობს. აქ მოცემულია რამდენიმე ყველაზე გავრცელებული კითხვა, რომელსაც ვაწყდებით.

შეუძლია თუ არა ხელოვნურ ინტელექტს სასამართლოში მოწმის სტატუსით გამოსვლა?

მოკლე პასუხია არა, სულ მცირე, არა ამჟამინდელ სამართლებრივ ლანდშაფტში. მოწმის ცნება ფუნდამენტურად ადამიანურია. იმისათვის, რომ პირი იყოს მოწმე, მას უნდა შეეძლოს ფიცის დადება, რომლითაც პირობას დებს, რომ სიმართლეს იტყვის. მას ასევე უნდა ჰქონდეს პირადი ცოდნა შესაბამისი მოვლენების შესახებ და შეეძლოს ჯვარედინი დაკითხვის გაძლება, სადაც მისი მეხსიერება, აღქმა და სანდოობა შემოწმებულია.

ხელოვნური ინტელექტი უბრალოდ არ აკმაყოფილებს ამ კრიტერიუმებს. მას არ აქვს ცნობიერება, არ შეუძლია ფიცი დადოს და არ გააჩნია პირადი მეხსიერება ადამიანური გაგებით. საუკეთესო შემთხვევაში, მას შეუძლია წარმოადგინოს მის მიერ დამუშავებული მონაცემები. ეს მას ბევრად უფრო მტკიცებულებად აქცევს, როგორიცაა ვიდეოთვალთვალის ჩანაწერი, ვიდრე რეალურ მოწმედ. ხელოვნური ინტელექტის მიერ გამოტანილი ინფორმაცია, რა თქმა უნდა, შეიძლება წარდგენილი იყოს სასამართლოში, მაგრამ სინამდვილეში მოწმის როლს ადამიანი ექსპერტი შეასრულებს, რომელიც ამ მონაცემებს განმარტავს.

რა განსხვავებაა სამოქალაქო და სისხლისსამართლებრივ პასუხისმგებლობას შორის ხელოვნური ინტელექტის შემთხვევაში?

ეს განსხვავება გადამწყვეტია, როდესაც ხელოვნური ინტელექტი ზიანს აყენებს. მიუხედავად იმისა, რომ როგორც სამოქალაქო, ასევე სისხლის სამართლის საქმეები სამართლებრივ პასუხისმგებლობას მოიცავს, მათი მიზანი, მტკიცების ტვირთი და სასჯელები სრულიად განსხვავებულია.

აი, ამაზე ფიქრის მარტივი გზა:

• სამოქალაქო პასუხისმგებლობა: საქმე მსხვერპლის ხელახლა აღდგენას ეხება. ყურადღება გამახვილებულია ზიანის ანაზღაურებაზე, როგორიცაა გაუმართავი ალგორითმით გამოწვეული ფინანსური დანაკარგები ან ავტონომიური ავტომობილით გამოწვეული დაზიანებები. მტკიცების სტანდარტი უფრო დაბალია - ხშირად „ალბათობების ბალანსი“.
• სისხლისსამართლებრივი პასუხისმგებლობა: საქმე ეხება საზოგადოების წინააღმდეგ ჩადენილი დანაშაულის დასჯას. ეს მოითხოვს დანაშაულის „გონივრული ეჭვის მიღმა“ დამტკიცებას - რაც გაცილებით მაღალი დაბრკოლებაა - და შეიძლება გამოიწვიოს მკაცრი სასჯელები, როგორიცაა თავისუფლების აღკვეთა ან დიდი ჯარიმები.

როდესაც საქმეში ხელოვნური ინტელექტია ჩართული, კომპანიას შესაძლოა სამოქალაქო სარჩელი წაუყენონ მისი პროდუქტის მიერ მიყენებული ზიანის ანაზღაურების მიზნით. თუმცა, სისხლის სამართლის ბრალდების დასამტკიცებლად, პროკურორმა უნდა დაამტკიცოს, რომ ადამიან მოქმედ პირს „დამნაშავე განზრახვა“ ჰქონდა (მენს რეასწორედ ამიტომ, პასუხისმგებლობა ადამიანს უკავშირდება და არა მანქანას.

როგორ შეუძლია ჩემს ორგანიზაციას მოემზადოს ევროკავშირის ხელოვნური ინტელექტის შესახებ კანონისთვის?

ისეთი რეგულაციებით, როგორიცაა ევროკავშირის AI აქტი ჰორიზონტზე, წესების სრულად აღსრულებამდე ლოდინი სარისკო სტრატეგიაა. პროაქტიული დაცვა სამართლებრივი რისკების ეფექტურად შემცირების ერთადერთი გზაა.

აქ მოცემულია რამდენიმე ძირითადი ნაბიჯი დასაწყებად:

1. თქვენი ხელოვნური ინტელექტის სისტემების კლასიფიკაცია: პირველ რიგში, თქვენ უნდა განსაზღვროთ, თუ რომელ რისკის კატეგორიაში ხვდება თქვენი ხელოვნური ინტელექტის აპლიკაციები — მიუღებელია, მაღალი, შეზღუდული თუ მინიმალური. ეს კლასიფიკაცია განსაზღვრავს თქვენს კონკრეტულ შესაბამისობის ვალდებულებებს.
2. რისკების შეფასების ჩატარება: ნებისმიერი მაღალი რისკის მქონე სისტემის შემთხვევაში, თქვენ უნდა ჩაატაროთ საფუძვლიანი შეფასებები, რათა გამოავლინოთ და მოაგვაროთ ფუნდამენტური უფლებების პოტენციური ზიანი. ეს არ არის მხოლოდ ჩარჩოების შევსების სავარჯიშო; ეს არის თქვენი სისტემის გავლენის ღრმა ანალიზი.
3. გამჭვირვალობისა და დოკუმენტაციის უზრუნველყოფა: შეინახეთ თქვენი ხელოვნური ინტელექტის დიზაინის, ტრენინგისთვის გამოყენებული მონაცემთა ნაკრებებისა და მისი გადაწყვეტილების მიღების პროცესების დეტალური ჩანაწერები. ეს დოკუმენტაცია აუცილებელია ინციდენტის შემთხვევაში შესაბამისობისა და ანგარიშვალდებულების დემონსტრირებისთვის.