Программерам вопрос

[impromptu]

Маск выпер всю команду, которая идентифицировала в Твиттере консервативных райт-вингеров. А вот интересно, как можно выуживать такой алгоритм? Ну понятно, в ФБ нас в кошачьем соо банят за выражение "fat cat", идиоты - бодипозитив должон быть в  отношении животных, вдруг Мурка прочтет, что хозяйка пишет о ней в сети. Или мы пишем pus@ycat, чтобы избегнуть сексуальных коннотаций, за пусси тоже дрючат. Это понятно, как написали. Но "оценку алгоритма" сложно ж как делать-то подобную.

Но как можно выуживать превалирование консервативного трепа, если не вручную мыкались теперича безработные?

И оценить превалирование? Ну, сегодня человек недоволен этим, а завтра тем. И как именно алгоритм Твиттера потакает правым? Вот как они эту оценку-то сделали уклонистскому алгоритму.  Вообще что в их понимании был этот алгоритм.

Comments

[kondybas]

Похожий алгоритм используется и для распознавания спама в почте. Определенные слова довольно однозначно метят весь текст. Вначале, конечно, нужно вручную собрать два больших массива писем, нормальных и спамовых. Затем сделать статанализ слов в них, и каждому слову назначить "вес" в баллах. Вес может быть как положительным, так отрицательным. Каждое сообщение проверяем на наличие слов-маркеров и суммируем их веса. Если ушли в плюс - спам. В минус - норм. Разумеется, около нуля из осторожности вердикт не выносим. Так удается отлавливать 99.99% спама, пропуская к получателю 1-2 спамовых письма на тысячу входящих.

Вышеописанное - старый алгоритм. Нынче появились более изощренные. Где оцениваются веса не отдельных слов, а их комбинаций, целых идиом, в разных словоформах. Например, если фильтр можно обмануть, написав fut cut или poossicat - это старый, т.н. "байесовский" фильтр. Новые нейросетевые фильтры могут гораздо больше. Но их тоже нужно учить, и для этого как раз и нужен штат людей, которые просматривают поток сообщений, вручную метят их штемпелем "фошызм" и скармливают нейросети для дообучения.

[impromptu]

OK. Ну как метить паршивцев, и как их пересчитать, понятно более или менее. Но я плохо выразилась в посте, конечно, и главное ткнула в конец. Достижение этой группы, которую он выпер - it identified that Twitter algorithm amplifies right-wing voices over others. Вот мне было неясно, как они посчитали это.

Погуглила и сама себе ответила. Алторитм твиттера (сортировка, накопление фолловеров и пр) - как у всех, наверное, как в ФБ. Видимо, они вот этим занимались.

https://blog.hootsuite.com/twitter-algorithm/#What_is_the_Twitter_algorithm

This initiative has identified Twitter algorithm bias issues, including:

The image-cropping algorithm showed racial bias, tending particularly to highlight white women over Black women.

=======================================================================================

Почему image-cropping (это, видимо, про юпик они) "высвечивает" белых женщин, а черные в тени? Почему женщин-то, ну мужское фото если стригануть, то другой результат у АфАм?

Ну полнейший же булл. Как посчитали? Никак, скорей всего.

[ordinary_joe_backup]

да никак, очевидно же. просто всех обиженных надо спасти, и если шоколодка несет хуйню - ее надо послушать, иначе сука нажалуется в эйчар и пизда твоей карьере, а нее её.

ну и вот.

вся эта левоватая пиздобратия выступает с идиотскими идеями, но все другие ссут их остановить, веть моргидж и тесла в лизинг.

и да, я не трампист, мне трамп глубоко неприятен, но боже сколько раз меня назвали расистом в энторнетах за то что я критиковал всю эту woke тусовку.

[kondybas]

А я нейтрально отношусь к Трампу.

Но видя, сколько лжи и клеветы на него вывалили, и как изо всех щелей поперло deep-state, за упоминание которого над ним насмехались, я понимаю, что весь, абсолютно весь корпус информации о Трампе в СМИ - это тщательно сконструированный образ пугала. Потому что ничего, из вменяемого ему в вину, доказано не было.

[ordinary_joe_backup]

Слушай, ну то что он крайне неприятный тип, это очевидно. Причем было очевидно задолго до выборов.

[kondybas]

Да пусть он хоть говном обмазывается. От него требовалось делать дело - он его делал. А что вся дем-левацкая шобла взвилась в едином порыве - свидетельствует о том, что он ударил в самую мякотку.

[ordinary_joe_backup]

Ну такоэ

[impromptu]

Счетчик долга Америки на Тайм Сквер видел? Он при нем за долгие годы обратно стал крутиться. Ну, неприятный, да, фанфарон, а зачем его любить или читать?
Люди эмоциональны все же.

[ordinary_joe_backup]

Самое смешное, что "простому американцу", основному электорату трампа, как раз выгоднее когда эта цифра крутится вверх, гггг. Отдавать то не ему, посмотри на распределение в налогах;) там эти простые, которые много пиздят про такс доллар но при этом налогов особенно не платят по бедности, занимают малую часть от налоговой выручки...

[impromptu]

Простому американцу выгодно, чтобы бензин стоил столько, сколько он стоил, а не столько, сколько теперешний "помогатель" Украине стоит, благодаря его усилиям по остановке добычи нефти и газа. Давайте еще пару лет не подобываем, поможем Пу.

[ordinary_joe_backup]

У простых европейцев бензин так стоил с 70х. Пусть реднеки учатся его экономить ;)

[stumari]

> Счетчик долга Америки на Тайм Сквер видел? Он при нем за долгие годы обратно стал крутиться.

разве?
насколько я помню, долг при нем как раз тоже увеличивался
https://www.thebalancemoney.com/national-debt-by-year-compared-to-gdp-and-major-events-3306287
вот сейчас посмотрел, в абсолютных цифрах все 3 до-ковидных года (про ковидный и не говорю) увеличивался
правда, один год уменьшился относительно ВВП, но в сумме за 3 все равно увеличился

[impromptu]

Крутился одно время, на меня это сильнейшее впечатление произвело. To, что все они лихо выкатывают печатный станок, это да, но ему еще с ковидом повезло. Payroll protection лоуны ж тоже не из воздуха взялись.

[stumari]

ну, может, в какой-то момент
но потом два года по триллиону+ к догу прибавлял, и, как я специально подчеркнул, еще ДО ковида
а потом, да, печатный станок они все любят,
но я согласен, что демократы раздали больше (если не ошибаюсь, раза в 2), чем Трамп

[impromptu]

Именно. Сменщик зато приятный, в первых строках перекрыл добычу нефти и газа собственной страной, чем внес неоценимый вклад в начало войны.

[sko4iha]

> он крайне неприятный тип, это очевидно. Причем было очевидно задолго до выборов.

теперь-то ваша душенька довольна?

[ordinary_joe_backup]

В каком смысле?

[sko4iha]

теперь-то приятный тип в белом доме, да?

[ordinary_joe_backup]

После трампа могли бы резиновую дилду выбрать, ваще похую кто баллотировался. Байден получил ключ от белого дома только за то что он не трамп.

К байдену канеш полно вопросов, но он все же лучше трампа абсолютно всем, потому что все лучше трампа.

[stumari]

ну вот и я примерно так к нему отношусь
впрочем, и как ordinary_joe_backup тоже - лично мне он есть и всегда был глубоко несимпатичен

[kondybas]

Тут есть один тонкий момент :)

Сами алгоритмы распознавания - они собственного мнения не имеют. Они тупо всасывают образцы, помеченные, как "хорошие" или "плохие" и формируют некую модель, которая старается действовать точно так же, как люди, метящие образцы "хорошими" или "плохими". И по итогу оценка ставится не некая абстрактная, а максимально напоминающая поведение "учителей". И если учителя на всю голову ебанутые, и видят фошызм и альт-райт в слове "pussycat" - то и программный фильтр будет высерать эту ебанину.

Строго говоря, нет ничего плохого в фильтрации спама, или СР, или реального хейт-спича. Проблема лишь в том, кому доверено решать, каковы хорошие и плохие образцы, на которых будет учиться алгоритм. Если ебанутые ебанашки будут браковать все фото, где мужчин больше, чем женщин, то в итоге фильтр начнет браковать любое изображение мужчин. Не потому, что это плохо, а потому, что это считал плохим тот упоротый левачок, у которого сошиал джастис фивер случался по абсолютно любому поводу.

И чтобы все это исправить - нужно сбросить в ноль настройки фильтра, и выкинуть на мороз всю ту упоротую команду, которая этот фильтр засрала своими ебанутыми решениями.

[impromptu]

Ага, понятно, ну вот он и сделал это. Я тоже не вижу, почему не фильтровать хейт - спич, но вот Цукер, например, дообучал систему до того, что сейчас банят за каждый чих и что? - только в этом году потерял 87 биллионов (ну, где-то половину из-за того, что экономива в упадке, но половина-то все-таки, видимо, от того, что платформу совершенно загадили сошиал ворриоры на невысокий зарплате, которые дышать не дают).

Ну, собственно, и народ там отмечает, что они не черта не делали полезного.

The entire "Ethics, Transparency, & Accountability" is gone. Considering Twitter has had no ethics, transparency, or accountability recently getting rid of the team failing their mission is a good start for a new leader.

[stumari]

а "Ethics, Transparency, & Accountability" - это что?
их лозунг, или общие правила такие?
что у них ничего из этого нет, понятно, зато у них есть DIE = Diversity, Inclusion, Equity

[impromptu]

Это название какой-то группы, которая за это отвечала, я не знаю, это те же самые выгнанные, или другие, которых тоже поперли))

[stumari]

thanks!