Насправді йдеться про контроль
Перше, про що думаєш, читаючи цю історію: ну добре, хтось використав його книгу без дозволу, типова піратська історія, тільки з новими технологіями. Але проблема набагато глибша і страшніша.
Шон Рейн — американець, який живе в Шанхаї, пише про досить чутливу тему сучасності: відносини США та Китаю. Він, за його словами, «не є стовідсотковим прихильником ні уряду США, ні уряду Китаю». Його позиція — нюансована, виважена, він намагається бути об'єктивним у світі, де всі вимагають від нього обрати сторону.
А тепер уявіть, що хтось, хто вміє клонувати його голос і використовувати його слова, вирішить змінити контекст. Додати пару речень, які він ніколи не казав. Створити відео, де його голос говорить щось радикальне, образливе, небезпечне. У Рейна вже є фейковий акаунт у Twitter, який публікує речі, протилежні його поглядам. Наступний крок це відео з його обличчям і голосом, де його ШІ версія каже те, що ніколи не сказав би він справжній.
«Це небезпечно, — каже він. — Продаж книжок — одна справа. Але втратити репутацію — зовсім інша».
Його агент Кріс Ньюсон формулює ще прямолінійніше: «Ми дуже стурбовані використанням зображення та голосу Шона для більш підступних цілей. Наступним кроком буде хтось, хто використає його образ і голос для створення контрпродуктивного та дуже неприємного контенту».
Річ у тім, що для клонування голосу зараз потрібно лічені хвилини аудіо. Інтерв'ю на радіо, виступ на книжковому фестивалі, презентація в книгарні — і все, у когось вже є ваш голос. А далі справа техніки.
Рейн каже, що deepfake-відео створили, просто завантаживши зразки його голосу з публічних інтерв'ю. Нічого складного. Нічого нелегального на етапі збору матеріалу. А ось що роблять з цим матеріалом далі — вже зовсім інша історія.
Парадокс: піратство, яке збільшує продажі
Є тут один дивний поворот, який змушує замислитися про всю нашу галузь. Рейн каже, що після появи цих deepfake-відео продажі його книжок на Amazon зросли. Одне відео набрало 70 тисяч переглядів за добу.
«Люди явно хочуть цей контент. Просто хочуть його в іншому форматі», — каже він і додає дещо болюче для всіх нас: «Видавці в цілому дуже відстають зі своїми маркетинговими стратегіями, тому ці хлопці з AI заповнюють прогалини».
Ось це вже боляче, бо правда. Ми всі знаємо, що аудіокниги та подкасти це майбутнє. Ми бачимо статистику: ринок дитячих аудіокниг зростає на 28% на рік. Ми розуміємо, що молоді люди хочуть споживати контент у форматі відео, подкастів, коротких роликів. Але що ми робимо з цим знанням?
У більшості випадків — нічого. Або робимо повільно, обережно, з комітетами та узгодженнями. А поки ми думаємо, хтось просто бере наш контент, прожене через AI та викладає на YouTube. І люди це дивляться, навіть більше, ніж читають.
Рейн каже пряму річ: «Це реальна проблема, бо навіщо комусь купувати мою книгу, особливо аудіоверсію, коли можна отримати її практично безкоштовно на YouTube, причому моїм голосом?»
Що робити? Поки що ніхто не знає
Найстрашніше в цій історії — безпорадність усіх учасників. Рейн не знає, що робити. Його агент не знає. Видавництво John Murray Press видало офіційну заяву, що «засуджує всі порушення прав власників авторських прав» і що у них «є постійні відносини з YouTube та стратегії для боротьби з AI та піратством».
Але що це означає практично? Теж незрозуміло. Книга була продана у Великій Британії, права розподілені територіально, а відео завантажене на канал, який, здається, базується в Сінгапурі. Хто, де і як має це видаляти?
YouTube каже, що правовласники можуть подавати запити на видалення контенту за порушення авторських прав. Але це означає грати у whack-a-mole: одне відео видалиш, а завтра з'явиться десять нових на інших каналах. А поки ти заповнюєш форми та чекаєш на розгляд, ці відео набирають сотні тисяч переглядів.
Анна Генлі з Товариства авторів формулює проблему ширше: «Генеративні AI-системи, які імітують голоси та стилі авторів, створюють deepfake або несанкціоновано використовують твори авторів, підривають британську систему авторського права та загрожують самій життєздатності наших креативних індустрій».
Вона права, але що з цим робити — не каже ніхто. Тому що ніхто поки не знає.
Український контекст: ми вже тут
Можна подумати, що це якась далека західна проблема, яка нас не торкнеться ще років п'ять. Але ми вже тут. Просто ще не всі це усвідомили.
Минулого тижня наш дизайнер показав мені обкладинку, згенеровану AI. За п'ять хвилин. Безкоштовно. Якість — на рівні того, за що ми платимо ілюстратору три тижні роботи. Я подивився і подумав: а що буду говорити нашим художникам? Що їхня робота більше не потрібна?
Або візьміть переклади. Є вже сервіси, які перекладають дитячі книжки з англійської українською за лічені хвилини. Якість хоч не ідеальна, але прийнятна. І ціна нульова проти гонорару професійного перекладача. Що робити видавництву, яке хоче вижити в умовах, коли ринок скоротився вдвічі, а ціна на папір зросла втричі?
А тепер додайте сюди можливість клонувати голос будь-якого нашого автора. Уявіть: популярна дитяча письменниця, яка регулярно виступає на фестивалях і дає інтерв'ю. У відкритому доступі години її голосу. Хтось бере цей голос, генерує аудіокнигу за її новою книжкою і викладає на YouTube або в Telegram. Безкоштовно, або за донат.
Хто програє? Автор — бо не отримує гонорару. Видавництво — бо не може продати аудіоверсію. Читач? Якраз ні, читач виграє, адже отримує контент безкоштовно. Тому це і не зупиниш громадською думкою чи моральними закликами.
Чи є вихід?
Якщо чесно — я не знаю. Але кілька речей здаються очевидними.
По-перше, юридично ми безнадійно відстаємо. Закони про авторське право писалися для світу фізичних копій та чітких територіальних кордонів. Зараз контент генерується за секунди, поширюється миттєво і не має кордонів. Поки юристи розбираються, чи є це порушенням, а якщо так, то в якій юрисдикції, автори та видавці втрачають гроші та контроль.
По-друге, технологічно ми теж відстаємо. Рейн правий: видавці дуже консервативні у маркетингу. Ми досі сперечаємося, чи варто робити TikTok-акаунт, а світ уже живе у реальності, де AI генерує персоналізований контент за секунди.
По-третє, і це найважче, нам треба переосмислити саму модель. Якщо твій контент можна скопіювати, модифікувати та поширити миттєво і безкоштовно, то боротьба з цим, як боротьба з вітром. Можливо, треба думати не як захиститися, а як адаптуватися.
Що, якщо офіційно випускати короткі подкасти голосом автора паралельно з книгою? Що, якщо давати частину контенту безкоштовно, але контролювати якість і контекст? Що, якщо монетизувати не сам контент, а доступ до автора, ком’юніті, додаткові матеріали?
Не знаю, чи спрацює. Але точно знаю, що просто сидіти і чекати, поки проблема вирішиться сама зовсім не варіант.
Особисте
Знаєте, що мене найбільше вразило в історії Рейна? Не цифри переглядів. Не втрачені гонорари. А момент, коли він каже: «Я не зміг одразу зрозуміти, що це не я».
Уявіть це відчуття. Чуєш свій голос, свою інтонацію, свої слова, але знаєш, що це не ти. Це якийсь технологічний привид, який використовує твоє обличчя та голос, щоб говорити у світ. І ти не контролюєш, що саме він каже.
Це вже не просто про авторське право чи гроші. Це про ідентичність. Про те, що у світі AI межа між тобою і нетобою стає розмитою. І якщо зараз це стосується авторів та публічних людей, то скоро торкнеться всіх.
Нещодавно побачив відео, де Ілон Маск начебто рекламує якусь криптовалюту і зрозумів, що це ідеальна підробка. Голос, міміка, жести — все точно. Тільки от Маск такого ніколи не казав. В коментарях молодше покоління писало приблизно ось так: «Хоч це і діпфейк, але прикольно зроблено».
І я подумав, що для наших дітей і підлітків це вже норма. Вони виростають у світі, де не можна вірити ні відео, ні аудіо, ні фото. Де будь-що може бути згенеровано. І книги в цьому світі — можливо, останній бастіон чогось справжнього. Поки що.
Але після історії Шона Рейна я вже не такий впевнений, як довго це триватиме.