Булочки с маком | Екатерина Петрова про книги и литературу

Вы, наверное, уже слышали про ИИ-скандал во Франции? Из списка номинантов на Гонкуровскую премию убрали дебютный роман Телисона Орельена «Либо это, либо смерть». Анонимный твиттер-аккаунт, за которым скрывались французский журналист и исследователь философии, обвинил автора в использовании ИИ при написании романа. Как рассказывают журналист и исследователь, они прогнали текст через ИИ-детектор Pangram, который показал, что большая часть романа была сгенерирована. А дальше — понеслось. Исключение из списка Гонкура, отмена пресс-тура и даже обвинение в плагиате. Сам Орельен отрицает написание текста с помощью ИИ, говорит, что использовал его только для поиска информации. Но что удивительно, продажи его книги растут и растут. Роман вышел 19 августа, и за шесть недель было продано 65 тыс. экземпляров. Из них почти 19 тыс. пришлось на неделю после обвинения в использовании ИИ. В общем рейтинге GfK/Livres Hebdo он занял четвёртое место, а среди новинок — первое. Здесь любопытно два момента. Во-первых, Pangram — ИИ-детектор, который используют во многих университетах и издательствах для проверки текстов на генерацию. Весной или летом этого года в Reddit я случайно наткнулась на огромную ветку обсуждения этого детектора. Залипла на несколько часов. Читать это было смешно и грустно одновременно. Больше всего мне запал крик души пользователя, который пишет маркетинговые тексты для университетов. Его работу тоже проверяют через Pangram. Так вот, он пожаловался, что уже пять раз переписал свой текст, но так и не смог пройти проверку детектором. При этом он объясняет, что маркетинговые тексты строятся по одному шаблону, из-за чего у него постоянно проблемы с этим сервисом, который обвиняет пользователя в генерации. Дальше чувак писал уже капслоком, что он не знает, что ещё сделать, чтобы пройти эту сраную проверку. Другой пользователь предложил ему переписать текст с помощью ИИ, вдруг получится. Ещё один пользователь рассказал, что загрузил в Pangram свой рассказ, написанный 20 лет назад, до появления языковых моделей ИИ. Детектор показал 100% генерацию. Кто-то провёл эксперимент и скормил Pangram сгенерированный ИИ текст. Тот показал только частичную генерацию. Затем пользователь взял кусок, указанный как ИИ-текст, и загрузил его отдельно. Результат — текст написан человеком. В общем, выглядит это всё забавно, если не учитывать тот факт, что инструмент работает некорректно, и его результаты могут серьёзно поднасрать. Во-вторых, во всех ИИ-скандалах напрочь отсутствует презумпция невиновности. Поскольку ИИ-детекторы несовершенны (и будут ли когда-нибудь — вопрос), получается слово против слова. А общественность и представители индустрии всегда встают на сторону обвинения. Эта ситуация схожа с обвинением в сексуализированном насилии, которое вскрывается через 10-15-20 лет после совершенного предполагаемого преступления. Почему предполагаемого? Потому что доказательств тоже нет. С одной стороны, это приводит к реальному раскрытию преступления, но в основном в том случае, когда есть другие жертвы. С другой — иногда обвинение в насилии используют как месть. Такие случаи тоже были, и на эту тему даже написано несколько книг. Как принцип презумпции невиновности будет работать в случае использования ИИ — непонятно. Есть подозрение, что никак. Пока не изобретут совершенный ИИ-детектор, во что я не сильно верю, поскольку языковые модели развиваются быстрее противоядия. Но, мне кажется, это хороший вопрос, чтобы подумать об этом.

У меня, как и у многих, плохо работают сервисы Яндекса. Как и многие, слежу за сообщениями компании о том, что происходит. Понятно, что чинят. Понятно, что починят. Непонятно — когда (в случае с финансовыми продуктами вообще всё сложно). Здесь очень хочется похвалить команду, которая занимается антикризисным PR, потому что назвать дата-центры «железным сердцем» и очеловечить компанию — отличный ход. Это действительно вызывает симпатию и желание поддержать. Так что, коллеги, лучики поддержки конкретно от меня. Но я пользуюсь развлекательными (музыка, книги, кино) и полезными (такси, карта) сервисами Яндекса и не пользуюсь их банком. Поэтому конкретно я не сильно пострадала. Но могу понять людей, у которых деньги находились на Яндекс Пэй, а теперь недоступны. Люди не могут не то что заплатить за квартиру или кредит, но и оплатить транспорт и даже купить хлебушек. Их праведный гнев обоснован. Есть предположение, что сотрудники Яндекса получают зп на тот же Яндекс Пэй и также сидят без копейки (если не переводят зп сразу же на другую карту). Поэтому все мы в одной лодке. Компания просит войти в положение. И это тоже понятно. Но хочется напомнить (всем банкам), что когда у клиентов сложные жизненные ситуации, в их положение редко кто входит. Есть над чем подумать, сделать выводы и, возможно, пересмотреть свою дальнейшую риторику и политику состригания денег с населения. Никто ещё не отменял хранить деньги в матрасе. Это первый вывод, который можно сделать из сложившейся ситуации. Ещё мне кажется, что праведный гнев пользователей направлен немного не по адресу. Напомню, что 1 сентября 2015 года вступили в силу изменения в закон о порядке обработки персональных данных. Депутаты Александр Ющенко (КПРФ), Андрей Луговой (ЛДПР) и Вадим Деньгин (ЛДПР) предложили локализовать базы данных и перенести их из дата-центров других стран на территорию РФ. Все компании положили на это болт. Но в 2019 году депутаты от «Единой России» Виктор Пинский и Даниил Бессарабов выступили с инициативой многомиллиных штрафов за неисполнение закона. После чего все крупные компании дружно перетащили базы данных в российские дата-центры. Аргументация власти в пользу локализации баз данных — «обеспечение суверенитета в сфере интернета», «усиление информационной безопасности страны» и «защита прав граждан в сфере персональных данных» (никакие иностранные спецслужбы не будут читать наши тупые переписки, слушать бессмысленные голосовые и рассматривать дикпики, кроме российских, конечно). Отсюда и второй вывод: локализация баз данных делает их уязвимыми, именно диверсификация могла бы спасти ситуации и не нанести такой ущерб. Сегодня прошла новость, что Минцифры и Минобороны займутся вопросом защиты дата-центров. Удивительно, что они только сейчас об этом подумали. Но меня волнует другой вопрос: что делать людям, которые сидят без денег? Какую помощь от государства они получат? Никакие раздачи 10к, как это было в ковид, не спасут людей, которые не смогут получить доступ к своим деньгам ещё неизвестно сколько времени. Выплаты фин.помощи из расчёта МРОТ — это вообще смешно. Единственным здравым решением было бы выдать от государства беспроцентный кредит с учётом дохода граждан с поэтапным погашением с того момента, как восстановится доступ к деньгам (это на мой взгляд, возможно, есть другие приемлемые варианты). Но что-то мне подсказывает, что это из области фантастики. Вывода здесь не будет, мы давно его сделали. Ну и последнее, скорее напоминание, а не ещё один вывод: монополия до добра не доводит. Я и дальше буду любить продукты Яндекса, но хотелось бы знать, что есть альтернатива. При здоровой конкуренции и продукты Яндекса были бы ещё круче.

Пришёл специальный детский номер журнала «Иностранная литература», который составляла Даша Сиротинская. Здесь много стихов и великолепной детской прозы. Меня заинтересовали главы из романа «Илина и лесные тролли» македонской писательницы Ханы Корнети, фрагменты из книги английской писательницы Эдит Несбит «Бэйстейблы в погоне за удачей», крошечные рассказы японца Симадзаки Тосон из сборника «Родной край», рассказы Джанни Родари «Первая покупка» и «Солнце и мыльце», а также множество небольших рассказов бразильских, португальских, американских, английских авторов.

Вчера Шведская академия объявила победителя. Нобелевскую премию по литературе получила канадская писательница и поэтесса Энн Карсон. На русский язык с довольно большим опозданием перевели только две ее работы (писать она начала в 1986 году). В 2021-м в не существующем уже издательстве No Kidding Press вышла «Автобиография Красного» (1998), а в 2024-м издательский проект «Лед» опубликовал «Горько-сладкий Эрос» (1986). В тексте для «Реального времени» рассказываю, как Карсон шла к «Нобелю» и почему другая вечная фаворитка Маргарет Этвуд его, скорее всего, не получит. Внутри статьи много занимательной арифметики от меня и букмекеров. Читать здесь: https://realnoevremya.ru/articles/408291-kanadskaya-poetessa-enn-karson-vechnaya-favoritka-nobelevskogo-komiteta

No text