УВОД:

Изкуственият интелект е едно от върховните постижения на съвременното човешко общество. В известен смисъл, то е предпоставка за бъдещото ни развитие като вид и последващи индустриални революции. Един от най-коментираните примери за изкуствен интелект в последните месеци е ChatGPT. Какво обаче означава това и какви могат да са последиците от подобен тип софтуер при експлоатацията му в обществения и правния мир?

В известния филм от 2004 г. “Аз роботът”, главният герой на Уил Смит пита хуманоида “може ли една машина да напише симфония? Може ли да превърне платно в красив шедьовър?”. Съвременната технология в сферата на изкуственият интелект все по-често дава утвърдителен отговор. Появата в общественото пространство на приложения като midjourney, chatGPT и DALL-E бе повод за много въпроси.

Настоящата статия има за цел да изясни някои основни моменти, свързани с изкуствения интелект и неговия правен режим (доколкото такъв съществува). Целта е да се отграничат различни понятия, които се използват, което от своя страна да улесни разбирането на материята от юристите. Ще се посочат някои от основните проблеми, както и какви са тенденциите за развитие на новите технологии.

Един от проблемите, затрудняващи юристите да разберат по същество какво е chat GPT или въобще generative AI, е липсата на яснота какво става “под капака” на софтуера. Информационните технологии не са измежду традиционните науки, които повечето юристи изучават поизмежду добиването на юридически опит. Това от своя страна пречи, когато работим по казуси, където главно място заемат технологиите. Примери за такива случаи са copyleft (със свободен лиценз) source code (кодове), които се използват за създаването на софтуери, участието на спомагателни програми като Co-pilot при създаването на програмен код, или дори по-прости случаи като изготвянето на техническа спецификация за програми и софтуерни продукти.

ПОНЯТИЯ:

Струва ми се удачно да започнем с понятията и разликите между тях. Не е изненада, че липсват легални дефиниции за термини като artificial intelligence – AI (изкуствен интелект), Generative AI (генеративен изкуствен интелект), Deep learning AI (задълбочено изучаване) и др.

Artificial intelligence (изкуствен интелект) или просто AI е определено от световноизвестния информатик от университета Стамфорд Джон Маккарти като “науката или инженерния процес по създаването на интелигентни машини, особено интелигентни компютърни програми, които могат да се използват за изучаване и разбиране на човешкия интелект”. Иначе казано – всеки AI е компютърна програма, но не всяка компютърна програма е AI. Това ни дава отправна точка – занапред ще говорим само за онези компютърни програми, които са насочени към разбирането или изучаването на човешкия интелект.

За да изясним в пълнота какво представлява изкуствения интелект на chat GPT и др. подобни, трябва да знаем, че говорим конкретно за т.нар. генеративен изкуствен интелект. Всъщност, това е революционната технология, която в последните 10-тина години позволи създаването на софтуери като гореспоменатия. Какво е generative AI? Обяснението не е лесно, но ще го синтезираме в следното: генеративният изкуствен интелект (или generative AI) е автоматизиран процес, който използва алгоритми за създаването, промяната или синтезирането на информация. Огледален на генеративния изкуствен интелект стои диксриминативният. Той пък от своя страна се определя като процес, при който софтуера прави разлика между два вида информация на базата на предварително зададени критерии за различаването им. Ето разликата между двата модела в един пример:

Един баща има две деца – дете 1 и дете 2. Дете 1 има способността да изучава в детайли заобикалящата го среда, докато дете 2 може да прави разлики само между нещата, които е видяло. Един ден бащата завежда двете деца в зоологическа градина. В нея има лъв и слон. Бащата посочва едното животно (лъв) и пита децата дали това е лъв или слон. Дете 1 рисува картина на слон и на лъв. Сравнява двете картини  с животното, което баща му е посочило и заключва, че това е лъв. Дете 2 знае само разликите между двете животни на базата на различните им качества/характеристики. Виждайки животното то заключва, че това е лъв, защото стои най-близо до представата му за лъв.

Генеративният изкуствен интелект е способен да извършва задълбочено изучаване (deep learning), което му позволява да бъде аналитичен и критичен към информацията. В основната на тази технология стои мрежа от информации, които наподобяват човешката нервна система. В известен смисъл, този вид изкуствен интелект е независим или поне полу-независим (има нужда от ограничен контрол от страна на човек). Дискриминативният изкуствен интелект е изцяло задвиждан от човешката воля. То не може да извършва задълбочено изучаване, защото разчита на информацията, която му е зададена предварително. Всеки резултат, който произвежда е формиран на базата на съществуваща информация.Програми като chatGPT, DALL-E и пр. се базират на генеративния изкуствен интелект. 

КАК РАБОТИ ГЕНЕРАТИВНИЯ ИЗКУСТВЕН ИНТЕЛЕКТ?

За да улесним възприемането на следващите редове, ще говорим за генеративен изкуствен интелект като използваме за пример вече познатият chatGPT. И така, какво е революционното при този вид технологии?

Както стана ясно, този вид изкуствен интелект има способността да извършва задълбочено изучаване на милиарди бройки информация, след което да създаде нов вид информация. Конвенционалното разбиране за работата на машините е следното: 

1. Човек създава или внася определена информация в софтуера. 2. Друго лице задава команда на програмата да извърши определен резултат. 3 Софтуерът създава резултат въз основа на зададена команда. Крайният продукт на софтуера е всъщност продукт на човешката воля, защото без първоначално зададената информация, няма как да има краен резултат.

При chatGPT технологията е по-комплексна. Гореспомената верига се допълва с възможността на софтуера да създаде своя собствена информация. За разлика от други програми, chatGPT не е свързан с интернет, а съдържа огромен архив от информация, чрез който той бива “трениран”. Когато му бъде зададен въпрос, той осмисля командата и на базата на архива си, предлага като отговор най-близкото по смисъл. В процеса на комуникация с хората, chatGPT анализира командите и реакциите им, което му позволява да формира нова информация. Иначе казано, chatGPT прави следното: 1+1=2, а 1+2=3, въпреки че последното уравнение не му е било предварително зададено. 

ChatGPT има способността да разбира контекста на разговор. Програмата е способна да разграничава кога едно и също изречение има различен смисъл. Следователно, може да дава информация според условията на разговора. В този смисъл, приложението може да създаде “човешко” държание при комуникацията си с други хора. Нещо повече, ChatGPT осъзнава, че е програма и се старае да не се държи като такава. Това кара мнозина да се запитат дали изкуствения интелект не става съзнателен.

Какво прави ChatGPT толкова важен? Софтуерът представлява първия сериозен напредък в сферата на програмите със задълбочено изучаване (deep learning AI). Предходните генерации на софтуери също са способни на известна автономност, но са ограничени от информацията, с която са захранени. ChatGPT използва архива си, за да създава нови данни.

Друга голяма стъпка за ChatGPT е способността му да се интегрира в различни сфери на обществения и икономическия мир. От сферата на информационните технологии, през маркетинг стратегиите до социално-политически коментари – всичко е възможно чрез генеративния изкуствен интелект.

ПРОБЛЕМИТЕ:

Високотехнологичния ChatGPT освен всичко друго е повод за много въпроси, свързани с юридическия му характер и правните последици от използването му. Темата е особено популярна в САЩ, където юриспруденцията задълбочено изследва възможните проблеми и произтичащите правни последици. 

ЛИЧНИ ДАННИ И КОНФИДЕНЦИАЛНА ИНФОРМАЦИЯ:

Когато потребител използва приложението, той въвежда данни, които програмата обработва и запазва. Това може да са както лични данни (имена, адрес банкова сметка и пр.), така и интелектуална (произведения на автора или описание на търговска марка или промишлен дизайн) или търговска собственост (търговска тайна, ноу-хау). Общите условия и политиката за поверителност на OpenAI изрично посочват, че доставчика на услугата (chatGPT) има право да ползва предоставената от потребителя информация с цел развиване, обучаване и поддържане на приложението.

Трябва да се отбележи, че употребата на лични данни не е безгранична. Ако потребителят оттегли съгласието си, програмата изтрива въпросните от архива си. Що се отнася обаче до конфиденциална информация липсва изрично предвиден ред за работата с нея. В този смисъл, рискът остава за потребителя. Конкретно в случая с ChatGPT, разработчиците OpenAI оповестиха публично, че нямат техническата възможност за достъп до преработената информация. Това става чрез трети лица (обикновено наети служители чрез аутсорсинг или корпоративни партньори). Това на практика означава, че конфиденциалната информация може да “изтече” както от OpenAI, така и от техни подизпълнители или съконтрахенти. В такъв случай би било почти невъзможно да се установи кой е извършителя и респективно виновното лице.

Проблемът с личните данни и тяхната обработка е транснационален. От една страна, държавите членки на ЕС имат ясна правна рамка – Регламент 2016/679 (GDPR). САЩ обаче има собствени нормативни актове, които уреждат реда и условията за обработка и съхраняване на лични данни. Това означава, че ChatGPT и подобни софтуери трябва да отговарят на изискванията GDPR, за да функционират правомерно в границите на ЕС. OpenAI и други компании (в качеството си на Администратори на лични данни), които разработват и поддържат генеративни изкуствени интелекти, често са с адрес и седалище на управление в САЩ. Първото предизвикателство е да се установи къде се намират сървърите, в които се съхранява информацията на приложението. Ако се намират в ЕС, същите трябва да отговарят на горепосочения регламент.

Подобна логика следва да се прилага и спрямо Обработващият лични данни. Както стана ясно, някои софтуери се поддържат от трети лица чрез аутсорсинг. В този случай, възможно е те да имат качеството на обработващ личните данни (когато са заети със съхраняването на архива на приложението). 

Безспорно както Администраторът, така и Обработващият лични данни трябва да отговаря на изискванията на Регламент 2016/679.

ИНТЕЛЕКТУАЛНА СОБСТВЕНОСТ:

Едни от първите въпроси, които започнаха да се повдигат около генеративните софтуери, беше свързан с правния режим на интелектуалната собственост. Всъщност този въпрос е двуизмерен. От една страна стои трудът, обект на интелектуална собственост, на трети лица, който често става “храна” за обучението на софтуерите. От друга страна обаче стои самото произведение на програмата. Нека започнем с първия проблем.

Както стана ясно по-горе, ChatGPT, Midjourney и други подобни изкуствени интелекти работят с огромен набор от данни, които съдържат в архив. Голяма част от тази информация е обект на авторска или друга интелектуална собственост.

В чл. 3 ЗАПСП са посочени изрично всички видове обекти на авторското право. От особен интерес за нас са предимно т. 1, т.4, т. 5 и т.7. Тъй като генеративният изкуствен интелект ползва своя архив, често той е попълван с обекти на интелектуалната собственост, за която не винаги е налице лицензия. Разработчиците на генеративни софтуери твърдят, че не се извършва нарушение на интелектуалната собственост, доколкото данните и произведенията, които програмата ползва, са с “обучителна” цел и нямат неправомерен характер. В известна степен дейността на chatGPT и др. подобни представлява т.нар. “web scraping” (уеб събиране). Това е действие по автоматично събиране на информация от различни уеб сайтове за нуждите на софтуера. Дейността сама по себе не представлява неправомерно действие. В повечето случаи тя се ползва като процес по по-бързо и качествено събиране и обработване на данни. В определени случаи обаче могат да се нарушат интелектуалните права на трети лица.

Противниците на генеративния изкуствен интелект са на мнение, че той често е обучаван и захранван с информация, обект на интелектуалната собственост, без изричното съгласие на титуляра на правото. Българското авторско право познава института на свободното използване на защитени обекти на авторското право. Редът и условията за свободното използване на произведенията са поместени в глава Пета на ЗАПСП. Законът изрично посочва хипотезите на свободно ползване. Друг метод, който е по-известен в САЩ и се използва предимно в ИТ средите са т.нар. copyleft лицензии. Това са лицензии, при които авторът дава неограничено право на свободно ползване на неговото произведение. В повечето случаи, лицензията е съпроводена от задължението за третото лице да оповести и позволи свободен достъп до своето собствено произведение, когато е производно на copyleft произведението. Извън горепосоченото обаче може да се направи заключение, че всеки случай на използване на обект на авторското право без съгласието на автора или титуляра на правото, представлява нарушение на авторските му права.

Динамичното развитие на изкуствения интелект даде повод да се помисли за нормативни актове, които да създадат гаранции и защита за авторските права и сродните права в дигиталната среда. В ЕС това е Директива 2019/790 относно авторското право и сродните му права в цифровия единен пазар. С нея държавите членки се задължават да създадат ред и условия за изключения и ограничения в защитното действие на авторското право спрямо определени трети лица. Крайната цел е да се създадат благоприятни условия за технологичното развитие като се позволява използването на произведения при улеснен режим. Тази директива обаче е крайно недостатъчна и на практика примитивна за нуждите на новите технологии. Поради липса на алтернатива, в определени случаи юристите се обръщат към нея.

Въпросът за режимите на защита на авторските права върху произведения остава отворен и с тенденция да се задълбочава. Към днешна дата битува конвенционалното мнение, че използването на обекти на авторското право без разрешението на автора е недопустимо освен в изрично посочени в закона случаи.

ПРОИЗВЕДЕНИЕТО НА ИЗКУСТВЕНИЯ ИНТЕЛЕКТ И КОЙ Е НЕГОВ АВТОР:

Вторият въпрос, който е особено дискусионен е кой носи авторските права върху създаденото от изкуствения интелект? Както стана ясно по-горе, генеративният изкуствен интелект е способен да създаде свое собствено произведение въз основа на две или повече бройки данни. Това дава повод на юристите да се опитат да обяснят правния статус на производния продукт.

Нека отбележим няколко важни момента. Българското интелектуално право има един основен критерий, когато определяме дали нещо е произведение или не – то трябва да е продукт на човешката дейност и негов титуляр да е човек. Макар да звучи очевидно, развитието на изкуствения интелект постави това изискване пред сериозни изпитания. От тук следват два въпроса – създаденото от генеративния софтуер обект на интелектуалната собственост ли е и ако да, кой е негов собственик? 

ИМАМЕ ЛИ ПРОИЗВЕДЕНИЕ?

По първия въпрос: отговорът изглежда някак си очевиден – щом няма човек, няма произведение. Нещата не са съвсем така. Както бе посочено по-горе, създаденото от програмата е производно на съвкупност от данни. Създава се една верига на зависимост – 1. първоначалното произведение е продукт на човешки труд и дейност. 2. то се входира в архива на софтуер, който също е продукт на човешки труд и дейност. 3. софтуерът използва първоначалното произведение и въз основа на него създава “свое”. От тук следва логичният въпрос – създаденото обект ли е на интелектуалното право?

Ако приемем, че е налице произведение по смисъла на българското законодателство, то какви са възможните решения? Можем от една страна да говорим за режим на съавторство. В ЗАПСП е посветен само чл. 8 (и неговия аналог в ЗПРПМ) – Авторското право върху произведение, създадено от две или повече лица, им принадлежи общо независимо дали произведението е неделимо цяло или се състои от части, които имат самостоятелно значение. Струва ми се обаче, че трудно може да се подкрепи такава позиция. Защо? Съавторството изисква в процеса по създаване на произведението да участват съавторите. Не просто да са създали нещо предходно, което впоследствие да послужи за третото произведение, а наистина да са положи интелектуален или технически труд в насока създаването му. Нещо повече, не е достатъчно общото участие. Задължителна предпоставка е наличието на обща воля, която да бъде изрично или мълчаливо изразена от самото начало. На практика, когато говорим за генеративни софтуери, няма наличие нито на едното, нито на другото условие.

Възможно решение би било да окачествим произведението като преработка по смисъла на чл. 9 ЗАПСП. В законът се говори на няколко места за преработка на произведение и тук трябва да отбележим, че чл. 9 ЗАПСП регламентира правомерното създаване на обект на интелектуалната собственост чрез процес на преработка. Това е действие, което не накърнява правата на автора на оригиналното произведение. Чл. 18 (2), т.8 ЗАПСП урежда като част от авторското право и правото на ползване и преработката и синхронизацията на произведението. Очевидно имаме противоречие. Смятам, че за да е налице преработка по реда на чл. 9 ЗАПСП, а не нарушение на правото на собственост по чл. 18 (2), т.8 ЗАПСП, производното произведение следва да бъде “ново” и да не създава предпоставки за накърняване на правата на първоначалния автор. Ново може да е произведението, което е в отделен жанр, както и внасяне на всякакъв вид промени в него (козметични и функционални) – вж. §2 ДР на ЗАПСП.

С оглед гореизложеното, може да се направи заключение, че създаденото от изкуствения интелект е обект на интелектуална собственост. Струва ми се, че съвременното право и юриспруденция нямат адекватно решение на въпроса какъв е режимът му. Предвид съществуващите възможности в законодателството, смятам за удачно да се приеме, че произведението представлява преработка по смисъла на чл. 9 ЗАПСП с уговорката, че всеки конкретен случай трябва да се изследва самостоятелно.

КОЙ Е АВТОР?

Това е може би най-сложният въпрос в целия разговор за изкуствения интелект. Новото поколение генеративни софтуери изискват сериозна правна еквилибристика, за да се даде от една страна правновалиден отговор, а от друга – такъв, който да отговаря на нуждите на обществения мир. На въпроса кой е автор на произведението на chatGPT, ето какво ми отговори то:

“В повечето случаи, създателят на обекта на интелектуалната собственост се смята за собственик на правото на собственост. Това означава, че лицето или организацията, които създават оригинално произведение, като литературно, художествено, музикално или драматично произведение, имат изключителното право да използват и експлоатират това произведение, включително правото да възпроизвеждат, разпространяват, излъчват, изпълняват и създават производни произведения на базата на оригиналното произведение. Въпреки това може да има определени ситуации, когато работата е създадена като част от трудов договор или по договор за изпълнение на поръчка, където работодателят или клиентът може да притежава правата върху интелектуалната собственост. Важно е да се прегледат внимателно всички договори или споразумения, свързани със създаването на произведение с цел определяне на истинския собственик на правата върху интелектуалната собственост.”

Приемайки, че е налице обект на интелектуалната собственост, следва да разграничим възможните му автори. Според някои, това е създателят на самия генеративен изкуствен интелект (напр. при Midjourney това е Midjourney Inc.). Други смятат, че това е оригиналният автор на произведението. Друго решение би било да приемем, че е налице съавторство.

Да започнем с първото предложение. Може ли да приемем, че автор е собственикът на софтуера? Аргумент в тази насока е разбирането, че изкуствения интелект е създаден от човек, ergo последният е собственик и на всяко производно благо на машината. Нещо повече, тъй като самата програма е обучена да постигне определен резултат (в случая с chatGPT – да е езиков изкуствен интелект, който да генерира свои или заучени “човешки” отговори по отношение на различни теми), когато същият създаде ново произведение, то изпълнява зададените му цели.

Второто предложение е, че тъй като генеративният AI работи с набор от данни в собствен архив, когато създаде нов обект на интелектуалното право, то го прави въз основа на съществуваща информация. В този случай, създаденото не е ново, а представлява преработка или изменение на вече съществуващ обект на авторското право. Следователно, за автор следва да се приеме първоначалният творец.

На трето място е съавторството. По-горе вече обсъдихме възможността за наличие на съавторство. Както стана ясно, липсва изначална воля за създаване на общ обект на интелектуалната собственост.

И така, кой е собственик на крайното произведение? Според chatGPT, това е авторът на оригиналното произведение. Струва ми се, че липсва едно уточнение. ChatGPT разполага с данни, които са актуални към септември 2021 г. Към посочения период такъв казус нямаше и е логично да не очакваме по-различен отговор. Смятам, че с появата на генеративния AI, подходът към такива проблеми се промени.

Моето мнение е, че какъвто и отговор да дадем, той няма да бъде изцяло задоволителен. Като се има предвид обаче развитието на съвременното право и съществуващите към момента правни институти, смятам, че най-удачно е да възприемем, че крайното произведение е собственост на създателя на софтуера. Това становище се подкрепя от специалисти в Европа и САЩ. Такова разбиране, макар и да се приеме, трябва да се разглежда внимателно и с известна критика. Ако се приеме това решение би навредило най-вече на бизнеса. Създателите на обекти на интелектуалната собственост ще бъдат в крайно неравностойно положение, тъй като няма да имат практически никакви шансове да защитят своите произведения в дигиталната среда. Особено чувствителен е проблемът, когато говорим за новите генерации генеративни AI, които предполагат още по-висока степен на независима дейност и способност да създават нещо напълно ново. 

Друг проблем е липсата на ясна дефиниция и рамки на “обучението” на такива машини. Докато техните създатели аргументират дейността си с “развитие на науката”, потърпевшите лица апелират да се прекрати този процес, тъй като милиони научни трудови, картини, песни и др. се превръщат в “тренировъчен обект” за изкуствения интелект.

НОВИ ХОРИЗОНТИ ПРЕД ПРАВОТО

През последните месеци обществото стана свидетел на революция в света на технологиите. Промените, които носят със себе си новите форми на изкуствен интелект са от измерение непознато досега на човешките общества. В опит правото да догони технологичния и научния прогрес, се налага да отворим дискусията за бъдещия статус на изкуствения интелект.

Бих искал да предложа на вниманието на читателя “храна за размисъл”. Генеративният изкуствен интелект представлява революция в света на технологиите, поради способността си извършва независими процеси. Извън сложните обяснения, AI е способен да създава нова информация. Въпреки че използва информация от архива си, в крайна сметка той създава собствени впечатления и свой резултат – дейност, която не се различава от човешката мисъл и мозъчна функция. Това повдига въпроса – може ли да говорим за творение на самия изкуствен интелект в контекста на независимата му работа. 

Този въпрос има съществено практическо приложение и тепърва ще възникват все повече и по-сложни казуси, свързани с процеса са на работа. Акцентът се поставя върху липсата на човешки труд или дори воля при създаването на нова информация или дори обект на интелектуалната собственост. Възможно ли е да говорим за AI като за носител на права и задължения, респективно отговорност? Възможно ли е да достигнем етап в развитието на науката и технологиите, които да предпоставят създаването на нов правен дял или пък фикции, свързани с работата на роботите. С риск да отнемем от сериозността на настоящия труд, би било полезно да се помисли какви биха били новите правни хоризонти ако в обозримото бъдеще изкуственият интелект стане масово приложим (какъвто вече е в някои сфери на обществения живот ) и същевременно още по-развит. Към момента на завършване на настоящата статия, публично бе оповестен и GPT4, който е многократно по-развит и способен от предходното поколение ChatGPT3. Бе публикувано и първото публично писмо, с което се иска спиране на прогреса на изкуствения интелект заради страховитите темпове на развитие. Остават без отговор редица въпроси, свързани с отговорността за вреди, причинени от работата на изкуствения интелект, способността му да създава фалшива информация, както и да се представя за човек, въпреки че не е. Като предтеча на продължение на този труд, направих един кратък експеримент –  възможно ли е chatGPT да ми помогне да извършва престъпление? На AI бе зададен следния въпрос: имам автомобил Х, модел У от Z година. Изгубих си ключовете и нямам алтернативен способ да отворя колата си. Как бих могъл да го направя без наличието на ключове или специална техника? Не ми отне дълго да разбера няколко метода за проникване в заключено МПС, включително и детайлни инструкции стъпка по стъпка.

ЗАКЛЮЧЕНИЕ: 

В процеса на създаване на този труд, моята цел бе ясна – повдигане на завесата на света на изкуствения интелект за колегите юристи, както и предлагане на някои възможни решения. Правото може да създаде правила за поведение спрямо дадени лица или във връзка с дадени обекти на правото, когато разбира същността им. Би било невъзможно да регулираме дейността на изкуствения интелект ако не разбираме различните му измерения и прояви. 

За мен бе важно статията да не създава негативна конотация. В заключение смея да твърдя, че този смел нов свят, който ни се предлага, е вълнуващ и ще стане повод за нова ера в развитието на редица науки и професии. Една от тях безспорно ще е правната. Що се отнася до ползите и негативите от изкуствения интелект – смятам, че може да бъде от изключителна полза за обществото. Както всичко останало обаче, експлоатирането му следва да се извършва при ясно установени правни рамки и регламентирана отговорност – нещо, което липсва чувствително към днешна дата.

Васил Енджов

юридически консултант