სერვისის შესახებ
ხელოვნური ინტელექტის სისტემები მონაცემებზე ცოცხლობს: ისინი აგროვებენ, აანალიზებენ, ახარისხებენ და გადაწყვეტილებებს იღებენ მათზე დაყრდნობით. „პერსონალურ მონაცემთა დაცვის შესახებ“ საქართველოს კანონი ხელოვნური ინტელექტისთვის ცალკე თავს არ შეიცავს — და ეს პირველი რამ, რაც ამ სფეროს მომხმარებელმა უნდა იცოდეს. მონაცემთა დამუშავება ასეთ სისტემებში ფასდება კანონის ზოგადი ნორმებით: დამუშავების პრინციპებით, საფუძვლებით, ავტომატიზებული გადაწყვეტილებების სპეციალური წესით და ზეგავლენის შეფასების ვალდებულებით. ჩვენი სერვისი სწორედ ამ ოთხ საყრდენზე ააწყობს თქვენი სისტემის სამართლებრივ შეფასებას — პროდუქტის შექმნის ეტაპიდან ექსპლუატაციამდე.
პრინციპები — საიდან იწყება ყოველი შეფასება
კანონის მეოთხე მუხლი ადგენს დამუშავების პრინციპებს, რომლებიც ხელოვნური ინტელექტის სისტემებზეც სრულად ვრცელდება: მონაცემები უნდა დამუშავდეს კანონიერად, სამართლიანად, სუბიექტისთვის გამჭვირვალედ და მისი ღირსების შეულახავად; მონაცემები უნდა შეგროვდეს მხოლოდ კონკრეტული, მკაფიოდ განსაზღვრული და ლეგიტიმური მიზნებისთვის და დაუშვებელია მათი შემდგომი დამუშავება თავდაპირველ მიზანთან შეუთავსებელი მიზნით; მონაცემები უნდა დამუშავდეს მხოლოდ იმ მოცულობით, რომელიც მიზნის მისაღწევად აუცილებელია; მონაცემები ნამდვილი და ზუსტი უნდა იყოს. ხელოვნური ინტელექტისთვის აქ მალე ჩნდება კონკრეტული კითხვები: რამდენად გამჭვირვალია ის, რომ მოდელი სუბიექტის მონაცემებს იყენებს; არის თუ არა სწავლების მონაცემების გამოყენება შეგროვების მიზანთან შეთავსებადი; და არის თუ არა შეგროვებული მოცულობა რეალურად აუცილებელი. კანონი თანამდევ კითხვებსაც ითვალისწინებს: სხვა მიზნით დამუშავებისას გათვალისწინებულ უნდა იყოს თავდაპირველ და ახალ მიზანს შორის კავშირი, პირსა და სუბიექტს შორის ურთიერთობის ხასიათი, სუბიექტის გონივრული მოლოდინი და სხვა.
საფუძვლები — რატომ არის დაშვებული დამუშავება
მეხუთე მუხლის თანახმად, დამუშავება დასაშვებია, თუ არსებობს საფუძვლებიდან ერთ-ერთი: სუბიექტის თანხმობა ერთი ან რამდენიმე კონკრეტული მიზნით; დამუშავების აუცილებლობა სუბიექტთან გარიგებით ნაკისრი ვალდებულების შესასრულებლად ან გარიგების დასადებად; გათვალისწინებულობა კანონით; საჭიროება კანონმდებლობით დაკისრებული მოვალეობების შესასრულებლად; მონაცემის საჯაროდ ხელმისაწვდომობა; სასიცოცხლო ინტერესების დაცვა; მნიშვნელოვანი საჯარო ინტერესი და სხვა. ხელოვნური ინტელექტის სისტემაში ეს კითხვა არაა ფორმალობა: სწავლების კორპუსი, პროდუქტის ფუნქციონირება და შიდა ანალიტიკა ხშირად სხვადასხვა მიზანს ემსახურება და თითოეულს შესაძლოა სხვა საფუძველი სჭირდებოდეს. საფუძვლის არჩევა და მისი დოკუმენტური ფიქსაცია სწორედ ის სამუშაოა, რომელიც სისტემის დიზაინის ეტაპზე უნდა გაკეთდეს.
ავტომატიზებული გადაწყვეტილებები — სისტემის ყველაზე მგრძნობიარე წერტილი
მეცხრამეტე მუხლი სწორედ ხელოვნური ინტელექტის სისტემებისთვის არის კრიტიკული: მონაცემთა სუბიექტს უფლება აქვს, არ დაექვემდებაროს მხოლოდ ავტომატიზებულად, მათ შორის პროფაილინგის საფუძველზე, მიღებულ გადაწყვეტილებას, რომელიც მისთვის წარმოშობს სამართლებრივ ან სხვა სახის არსებითი მნიშვნელობის შედეგს — გარდა იმ შემთხვევებისა, როცა გადაწყვეტილება ეფუძნება სუბიექტის აშკარად გამოხატულ თანხმობას, აუცილებელია ხელშეკრულების დასადებად ან შესასრულებლად, ანდა გათვალისწინებულია კანონით. სუბიექტის მოთხოვნისას პასუხისმგებელი პირი ვალდებულია მიიღოს ზომები მისი უფლებების დასაცავად — მათ შორის, გადაწყვეტილების მიღების პროცესში ადამიანური რესურსის ჩართვით, მოსაზრების გამოთქმისა და გადაწყვეტილების გასაჩივრების შესაძლებლობის მიცემით. ანუ სისტემა, რომელიც ადამიანს საერთოდ არ ტოვებს ჩართვის გზას, კანონთან კონფლიქტშია. განსაკუთრებული კატეგორიის მონაცემების გამოყენება ასეთ გადაწყვეტილებებში კი დამატებითი გარანტიებით არის დაშვებული.
ზეგავლენის შეფასება — მაღალი რისკის დამუშავების წინაპირობა
ოცდათერთმეტე მუხლი წინასწარი შეფასების ვალდებულებას აწესებს: თუ ახალი ტექნოლოგიების, მონაცემთა კატეგორიის, მოცულობის, მიზნებისა და საშუალებების გათვალისწინებით მაღალი ალბათობით იქმნება ადამიანის ძირითადი უფლებების შელახვის საფრთხე, პასუხისმგებელი პირი ვალდებულია წინასწარ განახორციელოს მონაცემთა დაცვაზე ზეგავლენის შეფასება. გარდა ამისა, შეფასება სავალდებულოა, თუ პირი იღებს სრულად ავტომატიზებულად სუბიექტისთვის არსებითი მნიშვნელობის შედეგის მქონე გადაწყვეტილებას, ამუშავებს დიდი რაოდენობით სუბიექტების განსაკუთრებული კატეგორიის მონაცემებს ან ახორციელებს სუბიექტების ქცევის სისტემატურ და მასშტაბურ მონიტორინგს. შეფასება წერილობითი დოკუმენტით ფიქსირდება, რომელიც აღწერს მონაცემთა კატეგორიას, მიზნებს, პროპორციულობას და რისკებს ზომებიანად; დამუშავების არსებითი ცვლილებისას დოკუმენტი განახლდება, ხოლო დამუშავების შეწყვეტის შემთხვევაში ინახება არანაკლებ 1 წლის ვადით. მაღალი საფრთხის გამოვლენისას პირი ვალდებულია მიიღოს ყველა აუცილებელი ზომა და, საჭიროების შემთხვევაში, მიმართოს სახელმწიფო აუდიტის სამსახურს.
პრაქტიკული სცენარები
მაგალითები საუბარს მიწიერს ხდის. ჩატ-ბოტი, რომელიც მომხმარებლის მიმოწერას აანალიზებს მომსახურების გასაუმჯობესებლად — ეს ერთი მიზანია, მაგრამ იმავე ტექსტზე ემოციური პროფილის აგება მესამე პირებზე გასაყიდად სრულიად სხვა საკითხია და შეუთავსებლობის ტესტს ვერ გადადგამს. სარეზიუმეების გაცრის სისტემა, რომელიც კანდიდატებს ავტომატურად აფილტრავს — სავარაუდოდ ავტომატიზებული გადაწყვეტილების რეჟიმში ხვდება და ადამიანის გადახედვის გზას მოითხოვს. საცხრომის კამერები, რომლებიც მასშტაბურ მონიტორინგს ახორციელებს — ზეგავლენის შეფასებას ექვემდებარება. თითოეულ ასეთ შემთხვევაში სწორი კითხვა არაა „აკრძალულია თუ არა“, არამედ „რომელი წესი მოქმედებს და რა უნდა გაკეთდეს მის დასაკმაყოფილებლად“.
როგორ დაგეხმარებით
ჩვენი სპეციალისტები შეაფასებენ თქვენს სისტემას ზუსტად ამ საყრდენებზე: განვსაზღვრავთ დამუშავების მიზნებსა და საფუძნლებს, გამოვავლენთ პრინციპების დარღვევის რისკებს (განსაკუთრებით მიზნის შეუთავსებლობასა და ჭარბ მონაცემებზე), შევაფასებთ, ექვემდებარება თუ არა თქვენი პროდუქტი ავტომატიზებული გადაწყვეტილებების რეჟიმს, და დავგეგმავთ ადამიანის ჩართვის მექანიზმს. საჭიროების შემთხვევაში მოვამზადებთ ზეგავლენის შეფასების დოკუმენტს. მიმართეთ — და მიიღეთ კონკრეტული შეფასება იმისა, როგორ უდგას თქვენი სისტემა კანონის მოთხოვნებთან.