Потребителите редовно се съгласяват данните от техните устройства да бъдат събирани, обработвани и използвани. Това е честа практика през последното десетилетие, тъй като „жадният“ за данни Изкуствен интелект (ИИ) се интегрира все повече в най-разнообразен набор от продукти и услуги. В широко разпространена практика се превръща и споделянето на потенциално чувствителни данни (като интимни изображения, потребителски чатове и т.н.) с цел създаване на алгоритми за машинно обучение.
Свидетели сме как някои съвременни удобства, каквито са например високотехнологичните прахосмукачки роботи, от домашен помощник могат да се окажат наш враг, „вербуван“ в битката за данни, които са „новият петрол“ на 21 век.
Неприкосновеност, поверителност, сигурност…?
Специалистите предупреждават, че има голяма пропаст между това, което компаниите разбират под „неприкосновеност“, и това, което потребителите разбират. Трудна за анализиране се оказва и разликата между „споделяне“ на данни и тяхната „продажба“. Когато една компания декларира, че никога няма да продаде данните ви, това не означава, че няма да ги ползва и споделя с други компании за анализи.
Джен Калтридър, водещ изследовател зад проекта на Mozilla „*Privacy Not Included“, който преглежда потребителските устройства както за поверителност, така и за сигурност, казва, че много лесно се съчетават „поверителността“ със „сигурността“.
„Сигурността“ на данните се отнася до уязвимостта от хакване на продукта, докато „поверителността“ е свързана с възможността за контрол на данните, как се използват, защо се споделят, как и колко време се съхраняват. Джен Калтридър е започнал да проследява продукти от 2017 г. и констатира, че „устройствата и приложенията вече събират много повече лична информация“, а „сигурността“ и „поверителността“ лесно се обединяват, защото „сигурността се е подобрила, докато поверителността се е влошила много“.
Прахосмукачки с компютърно зрение картографират домовете ни
Новото поколение прахосмукачки роботи имат вградена камера, чрез която забелязват и заобикалят препятствия, а когато за първи път регистрират такива, информират собствениците си със снимка към телефоните им, като очакват потвърждение дали трябва да ги заобикалят и за в бъдеще. На база на това роботите се самообучават за предпочитанията на собственика.
Оказва се, че данните, събрани от този тип роботи, са „особено инвазивни“. Прахосмукачките роботи могат да заснемат всякакви обекти в домовете ни и след това тези снимки могат да се използват за „обучаване“ на Изкуствен интелект (ИИ).
Какви са рисковете от това обаче, обяснява Денис Гизе, който изучава уязвимостите в сигурността на устройствата за Интернет на нещата: Прахосмукачките роботи „имат мощен хардуер и мощни сензори и те могат да шофират из дома ви, а вие нямате начин да контролирате това.“
Светът се дигитализира и непрестанно генерира огромно количество данни. Но разрастващата се глобална верига за доставки на данни от нашите устройства създава и нови рискове.
Скандалът с теча на изображения
През есента на 2020 г. в онлайн форум се публикуват поредица от изображения, повечето на обикновени домашни сцени, заснети от нисък ъгъл, но някои от тях са доста интимни и такива, които не бихте искали да споделите в интернет
Най-големият доставчик на роботизирани прахосмукачки в света – iRobot, който наскоро стана придобивка на Amazon за 1,7 милиарда долара, потвърди, че изображенията са заснети от тяхната прахосмукачка робот от серията Roomba през 2020 г. В изявление на компанията се казва, че снимките идват от „специални разработени роботи с хардуерни и софтуерни модификации, които не са присъствали в потребителските продукти на iRobot за покупка“. Твърди се, че всеки, чиито снимки или видеоклипове се появяват в потоците с данни, се е съгласил да остави на Roomba да го наблюдава.
Джеймс Баусман, говорител на iRobot, съобщи в имейл, че компанията е „взела всички предпазни мерки, за да гарантира, че личните данни се обработват сигурно и в съответствие с приложимото законодателство“, и че публикуваните изображения са „споделени в нарушение на писмено споразумение за неразкриване на информация между iRobot и доставчик на услуги за анотации на изображения“.
Направените от прахосмукачките изображения са били изпратени на Scale AI, стартираща компания, която наема служители от целия свят да етикетират фото и видео данни, използвани за обучение на ИИ. Scale AI е само един от анотаторите на данни, наети от iRobot, с който са споделени над 2 милиона изображения.
Околосветското пътешествие на снимки
Публикуваните незаконно изображения са направени от Roomba в домове от Северна Америка, Европа и Азия. Пътят, който те изминават, е забележителен. Първо се прехвърлят до сървърите на компанията iRobot, която е базирана в Масачузетс. От там поемат към Сан Франциско, където се намира анотаторът на данни Scale AI, след което достигат до служителите на Scale AI по целия свят. Точно в този последен етап от пътешествието на данните се случва неправомерното изтичане. Едва ли потребителите са подозирали за цялата тази верига за доставка на данни.
Анотация на данни
Изкуственият интелект се основава на машинно обучение, използващо големи масиви от данни: гласове, лица, предмети от домовете ни и друга лична информация. С тези данни се създават алгоритми за разпознаване на модели. Най-полезните данни са най-реалистичните и затова се търси достъп до реална среда, като например личните домове на хората.
За да станат натрупаните бази данни годни за внедряване в машинно обучение, те трябва да се категоризират, етикетират и да се добави контекст. Този процес се нарича „Анотация на данни“. Мат Бийн, асистент от Калифорнийския университет, който изучава човешката работа зад роботиката, описва процеса така: „Винаги има група хора, които седят някъде – обикновено в стая без прозорци и просто се занимават с кликване: „Да, това е обект, или: не, това не е обект“.
Анотацията на данни е „млада индустрия“, но се очаква да достигне 13,3 милиарда долара пазарна стойност до 2030 г. Нараства неимоверно нуждата от етикетирани данни, най-вече за обучение на алгоритмите, използвани в самоуправляващите се превозни средства.
Проблемът, който остава, е злоупотребата с тези данни – кой и как може да ги ползва против нас?
Естественият интелект е под заплаха
Психолозите са изумени до каква степен е закърнял в съвременния човек най-силният от всички човешки инстинкти – инстинктът за самосъхранение. Те обясняват това с нежеланието днес да се жертва уютът, дори пред огромната опасност от последствията на това бездействие в бъдеще.
Същото се наблюдава и при вземането на решение относно поверителността на данните. Преобладаващата част от потребителите гледат рентабилността на цените и така преценяват дали да имат и функциите на стоките и услугите. Още по-трудно става вземането на адекватно решение, когато става дума за страхотни роботи помощници, които „обещават чисти подове с едно натискане на копчето“.
Джесика Витак, професор в комуникационния отдел на Университета на Мериленд, предупреждава и за друга опасност: „Ние се отнасяме към машините по по-различен начин, отколкото към хората. За нас е много по-лесно да приемем сладък малък робот прахосмукачка, които се движи из нашето пространство, отколкото някой, който тръгва да се разхожда из къщата ни с камера.“ Приспани от технологичните заместители, така и не си задаваме въпроса на кого и какво се докладва и как ще се използват данните ни. Във века на „тоталната свързаност“, когато всичко е Smart (интелигентни градове, интелигентни къщи, захранвани и управлявани чрез нашите данни), явно само човекът става все по-мързелив да мисли и да управлява живота си. Да не говорим, че вече сме на прага на вграждане на чипове директно в тялото на човека за негово „улеснение“.
