*Зберігайте оригінальний заголовок '“Я підтримую це лише якщо воно відкритого коду” має стати нормою'*

Однією з основних побоювань щодо радикальних технологій є ризик того, що вони посилять соціальну нерівність, оскільки тривалий час залишатимуться доступними лише для заможних і впливових.

Ось цитата від людини, стурбованої наслідками продовження життя:

“Чи залишаться деякі люди поза межами? Чи зробимо ми суспільство ще більш нерівномірним, ніж зараз?” — запитує він. Тулжапуркар прогнозує, що прорив у збільшенні тривалості життя обмежиться багатими країнами, де громадяни можуть дозволити собі антивікові технології, а держави мають ресурси фінансувати науку. Такі диспропорції ускладнюють сучасну дискусію навколо доступу до медицини, оскільки багаті дедалі більше віддаляються від бідних як за якістю життя, так і за його тривалістю.

“Великі фармацевтичні корпорації давно відомі моделюванням доступу до ліків для тих, хто не може заплатити,” наголошує він.

Якщо технології омолодження будуть розподілятися на неконтрольованому ринку, “цілком ймовірно, ми зіткнемося з утворенням постійних глобальних нижчих класів, країн із зафіксованими сучасними рівнями смертності,” пояснює Тулжапуркар … “Якщо це станеться, виникне негативний зворотний зв'язок, порочне коло. Країни, які залишаються за межами, залишатимуться поза ними назавжди.”

Ще один приклад гострої позиції — публікація про ризики генетичного вдосконалення людини:

На початку місяця науковці повідомили, що відредагували ген у людському ембріоні для усунення мутацій, що викликають хвороби. Це вражаюче досягнення стало подією, про яку мріяли багато батьків. Не дивно, що кожен прагне вберегти дітей від страждань, яких можна уникнути.

Але на цьому все не обмежується. Дедалі більше батьків прагнутимуть надати дітям максимальні переваги завдяки генетичному вдосконаленню. Ті, хто має ресурси, отримають доступ до таких технологій. Проте окрім питань безпеки постають етичні дилеми. Висока вартість процедур створить дефіцит і ще більше загострить нерівність доходів.

Така ж риторика притаманна й іншим технологічним сферам:

• Цифрові технології загалом: https://www.amnestyusa.org/issues/technology/technology-and-inequality/
• Космічні польоти: https://oilprice.com/Energy/Energy-General/What-Does-Billionaires-Dominating-Space-Travel-Mean-for-the-World.html

• Сонячна геоінженерія: https://www.cambridge.org/core/journals/global-sustainability/article/hidden-injustices-of-advancing-solar-geoengineering-research/F61C5DCBCA02E18F66CAC7E45CC76C57

  Ця тема лежить у центрі багатьох технологічних критик. Близькою, але суттєво іншою проблемою є використання технологічних продуктів для збору даних, створення залежності від постачальника, навмисно прихованих побічних ефектів (наприклад, сучасні вакцини критикують з цієї причини) і інших форм зловживань. Нові технології дають більше можливостей надати щось, ізольовано від прав чи повної інформації про цей продукт, тому стара техніка часто здається безпечнішою. Це теж механізм зміцнення влади, але вже як проєкція виробника проти користувача, а не просто нерівність доступу.

  Особисто я техно-оптиміст, і якби стояв вибір між “рухатися вперед” і “залишатися на місці”, я підтримав би розвиток майже всіх сфер (окрім кількох — наприклад, дослідження з модифікацією функцій, зброї та надінтелектуального ШІ), попри ризики. Адже переваги — довше і здоровіше життя, процвітаюче суспільство, збереження людської значущості за стрімкого розвитку ШІ, культурна спадкоємність через довше життя старших поколінь — суттєво переважають недоліки (що часто перебільшуються).

  Але якщо стати на позицію песиміста або того, хто побоюється, що сильні світу цього використають новітні технології для збереження домінування й контролю? Наприклад, я вже скептично ставлюся до “розумного дому” — перевага голосового керування лампою не перекриває дискомфорту, якщо приватне життя транслюється у Google чи Apple. З більш песимістичними припущеннями можна аналогічно ставитися до медійних технологій: якщо вони дозволяють впливовим особам транслювати меседжі ефективніше, ніж інші, це дає контроль і пригнічує альтернатива, а вигоди кращої інформації чи розваг часто малі для компенсації перерозподілу влади.

Відкритий код як альтернативний шлях

Дуже часто недооцінюють таку позицію: підтримувати технологію лише якщо вона розробляється як відкритий код.

Існує аргумент, що відкритий код пришвидшує розвиток: кожен може вільніше будувати на ідеях інших. Є і зворотний аргумент — що відкритий код уповільнює розвиток, бо обмежує комерційні стратегії монетизації. Однак найбільше значення мають ті наслідки відкритого коду, які не зводяться до темпу прогресу:

• Відкритий код підвищує рівність доступу: будь-хто, у будь-якій країні, може скористатися ним. Для фізичних товарів і послуг досі діють змінні витрати, але ціни на приватні продукти часто високі через високі початкові витрати (наприклад, NRE), а собівартість одиниці часто мізерна (типово для фармацевтики).
• Відкритий код дає рівний доступ до ролі виробника. Претензія до безкоштовного доступу до фінальних продуктів (навіть медицини) — не сприяє набуттю навичок чи економічному росту, який справді забезпечує стійкий доступ до якісного життя (див. приклад Магатте Уейда про допомогу Африці). Відкритий код — це фундаментальна можливість для всіх стати виробниками на будь-якому ступені ланцюга постачання, а не лише споживачами.
• Відкритий код забезпечує прозорість і контроль: якщо відкритий є не лише фінальний продукт, а й процес розробки й вибір параметрів, значно легше впевнитися в справжності обіцяного й провести незалежні дослідження недоліків.

• Відкритий код усуває ризик прив'язки до постачальника. Виробник не може дистанційно відключити функції або взагалі ліквідувати продукт у разі банкрутства (див. сумніви щодо комп’ютеризованих/мережевих автівок що можуть зупинитися через банкрутство виробника). Ви завжди маєте право на ремонт — самостійно або із сторонніми виконавцями.

  Розглянемо цей принцип на прикладі деяких радикальних технологій з початку статті:

• Якщо технологія продовження життя залишиться приватною, нею скористаються лише мільярдери й політики (особисто я очікую швидкого здешевлення, але хтось налаштований скептичніше). Якщо ж її відкрито для всіх, кожен має шанс застосувати її й пропонувати послугу дешево.

• Якщо генетичне вдосконалення людини доступне лише обраним, сформується привілейований “надклас”. (Я теж вважаю, що такі технології дифундують, але розрив між багатими й середнім класом збережеться.) Якщо ж це відкритий код, різниця між можливостями еліти та більшості буде мінімальною.
• Для всіх біотехнологій — екосистема відкритого-наукового тестування безпеки може бути ефективніша й чесніша, ніж коли компанія сама гарантує безпечність продукту і отримує формальне схвалення від лояльного регулятора.
• Якщо лише обрані летять у космос, виникає ризик, що хтось забере під контроль планету чи супутник. Якщо технологія доступна багатьом, така можливість зменшується.

• Якщо ваш “розумний” автомобіль працює на відкритому коді, ви самі контролюєте його функціонал і убезпечені від стеження чи залежності від виробника.

  Усе це можна підсумувати в одній схемі:

Зверніть увагу, що позиція “розробляйте лише якщо відкритий код” охоплює ширшу область невизначеності — важко передбачити, наскільки відкритий код прискорить прогрес і скільком ризикам концентрації влади зможе запобігти. Втім, у середньому це ефективний підхід у багатьох ситуаціях.

Відкритий код і ризики зловживання

Головний аргумент проти відкритого коду для потужних технологій — ризик поведінки “нульової суми” й неконтрольованих форм зловживань. Якби кожен мав ядерну зброю, це б справді ліквідувало ядерну нерівність (так, зараз потужні держави використовують асиметрію ядерного озброєння для тиску), та це майже напевне спричинило б мільярди смертей. Без навмисної шкоди негативні соціальні наслідки можуть виникнути, якщо кожен матиме доступ до пластичної хірургії: всі витрачатимуть ресурси й ризикуватимуть здоров’ям задля краси, але зрештою суспільство просто звикне до нового рівня й не стане кращим. Визначені біотехнології можуть мати такі ефекти у ще більшому масштабі. Багато технологій — особливо значна частина біотехнологій — опиняються між цими крайнощами.

Це — аргумент на користь протилежного підходу: “Я погоджуюся лише на обережне впровадження технології із суворим контролем надійних операторів”. Гейткіпери (оператори) можуть дозволяти позитивне використання й запобігати негативним сценаріям. Їм можна надати суспільний мандат гарантувати недискримінаційний доступ усім, хто не порушує визначених правил. Але я маю глибокий скепсис до цього підходу. Головна причина — сумнів, що нині справді існують абсолютно надійні оператори. У найбільш ризикованих сценаріях — насамперед військових — армії не схильні обмежувати себе самостійно.

Гарний приклад — радянська програма біозброї:

Зважаючи на обережність Горбачова щодо СОІ та ядерної зброї, його підтримка нелегальної біозброї СРСР виглядає суперечливо, зауважує Гоффман.

На момент приходу Горбачова у 1985 році СРСР мав масштабну програму біологічної зброї, ініційовану Брежнєвим, незважаючи на участь у Конвенції про заборону біологічної зброї. Окрім сибірки, радянські науковці працювали над віспою, чумою й туляремією, але реальні наміри й цілі лишаються незрозумілими.

“Документи Катєєва засвідчують низку постанов ЦК від середини й кінця 80-х щодо біозброї. Важко повірити, що всі вони приймалися без відома Горбачова,” — зауважив Гоффман.

“Є навіть службова записка на ім'я Горбачова щодо біологічної зброї від травня 1990 року — але й вона не давала повної картини. СРСР вводив в оману не лише світ, а й власних лідерів.”

Див. також статтю, яка доводить, що радянська біозброя частково стала доступною іншим країнам (!!) після розпаду Союзу.

Інші держави також несуть відповідальність за власні помилки. Досить згадати численні факти про участь багатьох країн у дослідженнях функціональних змін і пов'язані з цим ризики (рекомендую цю книгу). У цифровому програмному забезпеченні (зокрема у фінансах), історія зброїзованої взаємозалежності показує, як заходи для зупинення зловживань легко перетворюються на односторонню проєкцію влади операторів.

Ще одна слабкість гейткіпінгу — оператори підкоряються національним урядам, а політичні системи можуть мати зацікавлення у внутрішній рівності, та немає інституту, здатного гарантувати рівність між країнами.

Щоб уникнути перекручень, не стверджую “гейткіпери теж погані, отже варто дозволити все” (зокрема, щодо досліджень з модифікацією функцій). Я висловлюю дві тези:

• Якщо технологія несе такі ризики “всезагальних зловживань”, що її слід дозволяти лише під централізованим контролем, можливо, краще відмовитися від її впровадження (та інвестувати в альтернативи з безпечнішим профілем).
• Якщо технологія несе “ризики концентрації влади”, і ви схильні не впроваджувати її зовсім, можливо, ця проблема вирішується відкритим кодом — тоді кожен має шанс зрозуміти процес і взяти участь.

Відкритий код не дорівнює “вільному доступу для всіх”. Наприклад, я підтримую відкритий код і відкриту науку у геоінженерії. Але це не означає, що “кожен може змінювати русла річок чи розпилювати хімікати в атмосфері”, і на практиці це не станеться: закони та міжнародна дипломатія працюють, а подібні маніпуляції легко відстежити і контролювати. Відкритість дає (і) демократизацію (більше країн можуть застосовувати технологію), та (іі) доступність інформації, щоб суспільство могло формувати власну думку щодо того, чи безпечно й ефективно те, що відбувається.

У фундаменті я розглядаю відкритий код як найміцнішу “точку фокусу” для розвитку технологій без концентрації багатства, влади й асиметрії інформації. Можна конструювати складніші інституції для розмежування добрих і зловмисних сценаріїв технологій, але в сучасному світі найбільш стійкою лишається проста, зрозуміла громадськості гарантія прозорості: всі процеси відкриті для будь-кого — можна приєднатися, дослідити, впливати.

Часто ці побоювання менш важливі, ніж екстремальна цінність швидкого розвитку технологій (або, навпаки, максимальне уповільнення — до появи контрзаходів чи альтернативних рішень). Однак, якщо дивитися ширше, третя позиція — зосередження не на темпі, а на стилі прогресу, й упровадження відкритого коду як орієнтиру для кращих змін — недооцінена стратегія.

Важлива інформація:

1. Цей матеріал передруковано з [vitalik]. Всі права належать автору [vitalik]. За запереченнями щодо передруку звертайтеся до команди Gate Learn, яка оперативно вирішить питання.
2. Відмова від відповідальності: Всі погляди та позиції у статті — це думка автора і не є інвестиційною рекомендацією.
3. Переклади статті іншими мовами виконані командою Gate Learn. Якщо не зазначено додатково, копіювання, розповсюдження чи плагіат перекладів заборонені.