У недавній статті, опублікованій в журналі BMJ Global Health, дослідники виділили загрози, що виникають в результаті навмисного, ненавмисного або необачного зловживання штучним інтелектом ( ІІ ) і штучним загальним інтелектом ( AGI ), самовдосконалюється формою ІІ. Крім того, вони обговорили серйозні наслідки непередбачення і адаптації до змін в суспільстві, заснованим на ІІ.
Основні загрози від неправильного використання ШІ
Дослідники описали три способи, за допомогою яких ШІ може загрожувати існуванню людини.
- По-перше, ШІ може збільшити можливості для маніпулювання людьми. У Китаї і 75 інших країнах уряд розширює спостереження на основі ШІ. ШІ швидко очищає, систематизує і аналізує величезні обсяги персональних даних, включаючи відеоконтент, знятий камерами, встановленими в громадських місцях. Хоча це могло б допомогти в боротьбі з актами тероризму, гарне застосування, з іншого боку, ці дані можуть сприяти зростанню поляризації і екстремістських поглядів. Система соціального кредитування в Китаї автоматично позбавляє людей доступу до банківських і страхових послуг, накладає штрафи і забороняє їм подорожувати і відправляти своїх дітей в школи на основі аналізу їх фінансових транзакцій, поліцейських записів і соціальних зв’язків для оцінки індивідуальної поведінки.
- По-друге, ШІ має широке застосування в збройних силах і системах оборони, що породжує другу загрозу, пов’язану з ШІ, досягненнями в області смертоносних автономних систем зброї ( LAWS ). Це автономне зброю може визначати місцезнаходження, візуально розпізнавати і « наводити » на людські цілі без контролю людей над ними, що робить їх новим і смертоносним зброєю масового знищення. Підривні елементи, такі як терористичні організації, могли б дешево масово виробляти ЗАКОНИ, які бувають всіх розмірів і форм, і налаштувати їх на масові вбивства. Наприклад, можливо оснастити мільйони дронів-квадрокоптерів, невеликих мобільних пристроїв вибухівкою, візуальної ідентифікацією та автономними навігаційними можливостями, а також запрограмувати їх на вбивство без нагляду людини.
- По-третє, широке впровадження інструментів, заснованих на технологіях ШІ, може привести до втрати десятків або сотень робочих місць в найближчі десятиліття. Однак широке впровадження інструментів ШІ буде в значній мірі залежати від політичних рішень урядів і суспільства і темпів розвитку ШІ, робототехніки та інших доповнюють технологій.
Проте, вплив автоматизації, заснованої на ШІ, буде найгіршим для людей, зайнятих на низькокваліфікованих роботах в країнах з низьким і середнім рівнем доходу ( СНСД ). В кінцевому рахунку, це не пощадить верхні шари кваліфікації глобальної робочої сили, включаючи тих, хто проживає в країнах з високим рівнем доходу.
Протягом багатьох десятиліть люди представляли і розробляли машини, які були б більш розумними, свідомими і потужними, ніж ми самі. Це призвело до розробки AGI, теоретичних машин на основі ШІ, які навчаються і інтуїтивно покращують свій код і починають розробляти свої власні цілі.
Після підключення їх до реального світу, тобто за допомогою роботів, зброї, транспортних засобів або цифрових систем, стає важко уявити або передбачити ефекти і результат ШІ з будь-якою впевненістю. Проте, навмисно чи ні, ці машини можуть завдати шкоди людям і поневолити їх. Відповідно, в недавньому опитуванні, проведеному серед членів суспільства штучного інтелекту, 18% учасників висловили стурбованість тим, що розвиток ШІ може бути екзистенційно катастрофічним.
Крім того, автори підкреслили, що, хоча ШІ має потенціал революціонізувати охорону здоров’я, покращуючи діагностику і допомагаючи розробляти нові методи лікування, деякі з його застосувань можуть завдати шкоди. Наприклад, більшість систем ШІ навчаються на наборах даних, в яких недостатньо представлені групи населення, схильні до дискримінації.
Через це неповного і упередженого набору даних, наприклад, пульсоксиметр, керований штучним інтелектом, завищив рівень кисню в крові у пацієнтів з більш темною шкірою. Аналогічним чином, системи розпізнавання осіб неправильно класифікують підлогу суб’єктів з більш темною шкірою.
Висновки
Медичне співтовариство і практику охорони здоров’я повинні підняти тривогу з приводу ризиків і загроз, що створюються ШІ, подібно до того, як Міжнародна організація « Лікарі за запобігання ядерної війни » представила засновані на фактичних даних аргументи про загрозу ядерної війни.
Найголовніше, існує потреба в заснованої на фактичних даних пропаганді радикальної перебудови соціальної та економічної політики на найближчі десятиліття. Швидше, ми повинні почати готувати наші майбутні покоління до життя в світі, де людська праця більше не був би потрібен для виробництва товарів і послуг, тому що ШІ кардинально змінив би сценарій роботи і зайнятості. Про це повідомляє News-Medical.
Матеріали новинного характеру не можна прирівнювати до призначення лікаря. Перед прийняттям рішення порадьтеся з фахівцем.
