Обложка канала

Научно-Технический - Sci DIY - Лабораторный журнал хабрахимика

12815 @lab66

Расказываю о своем научно-техническом поиске в режиме Live (Cергей Бесараб aka steanlab). Безопасность, радиация, дозиметры, радиолюбительство, химия во всех ее проявлениях, медицина etc. Подпишись чтобы не опоздать.

Научно-Технический - Sci DIY - Лабораторный журнал хабрахимика

3 года назад
Открыть в
В ответ на >>заметку<< Cамые интересныя #мнения_читателей по поводу "теории нейросетевого обмана": ••• <...> Вполне вероятное развитие ситуации. IT давно превращается в оружие, видимо в ближайшее время начнется конструирование систем семантического анализа на предмет манипулирования <...> ••• <...> Преподносится так, как будто все люди безоговорочно верят тому, что написано и показано в интернете. Ничего не поменялось, ко всей информации надо относится с предельной осторожностью и недоверием, как например, к незнакомым людям, которые пытаются нас в чём-то убедит. У каждого есть свои авторитетные издания и источники. Другое дело что теперь станет проще их подделать (стиль письма или даже видео) ••• <...> Если представить общество в виде квантифицированных сущностей в направлении влияния то вполне возможно на длительном промежутке раскачать общество под какое-то событие для совершения действия, возможно это будет более эффективно чем это делают пропагандисты/политота, возможно будет опция для синхронизации между разными слоями или государствами, но в итоге это лишь инструмент. И то что его используют во благо, это лишь беспочвенная надежда.<...> ••• <...> 2020 был пандемия коронавируса, в 2022 пришла война в Украине, на 2024 планируется атака искусственного интеллекта. Год подготовится есть, надо мыслить позитивно <...> ••• <...> Возможно, государства начнут выдачу сертификатов, подтверждающих достоверность информации, и будут требовать от платформ предъявления при покупке. Возрастет роль бумажных документов, с печатью, подписью кровью и следом ДНК, особенно в корпоративных сделках. Пользуясь тем, что генерированную ложь "трудно отличить" от правды, государства и корпорации выжгут альтернативную и гражданскую журналистику на корню. Возрастет ценность живых экспертов (на нейросеть денежную и уголовную ответственность не возложить). Гражданам станет труднее искать справедливости в суде, где любое доказательство может быть отвергнуто как генерированное, а со стороны корпораций - принято. <...> ••• <...> Будущие поколения будут понимать, что ложь и правда из сети - это обычное явление, развлечение такое, и не стоит напрягаться. Доказательная база важных событий будет собираться каким-то новым способом или методом исключающим подтасовку. Или появится новый вид коммуникации, который будет очень дорогим, но нести типа правду (прогноз).<...> ••• <...> Что касается отличия обмана (лжи) от правды, то значительной части человечества это удавалось во все времена и удается сейчас довольно легко. Меньшинству - за счет критического мышления, а гораздо более значительной части людей - за счет некоего природного (сермяжного) здравомыслия, скорее, на инстинктивном уровне, а не путем логических размышлений. Это одно из фундаментальных основ выживания человека как вида. Простодушие и наивность - это не про людей. <...> ••• <...> Не надо ничего нового придумывать, нужно просто быть упорным, внимательным, тратить достаточно времени на подстройку под жертву и ждать шанса протолкнуть то, что продаешь. Даже с такими задачами люди справляются сильно хуже машин, особенно когда их на это будут натаскивать и потенциальных жертв можно пасти миллионы одновременно. AI это инструмент, но очень острый и очень эффективный (и мало кто представляет до какой степени эффективный) <...> ••• Если согласны с тем, что опасения реальны → 🌚 Если считаете опасения по поводу "нейросетевого обмана" беспочвенной "продажей страха"→ 😁 Если с радостью погрузитесь в дивный, новый мир → 🎉 Если вас это все абсолютно, по вашему мнению, не касается → 🥴
Научно-Технический·LAB-66·Лабораторный журнал беларуского химика

В начале декабря из комментариев в приканальном чате я слепил небольшой пост в FB (см. Субботнее нейросетевое), посвященный реальности нейросетевого обмана. Оказалось мысли были правильные. Благодаря Sergey Karelov сегодня я узнал про >>обращение к разработчикам ИИ<< знакового тайваньского визионера в области искусственного интеллекта - Кай Фу Ли (Kai-Fu Lee). Суть обращения в том, что по мнению Кай Фу Ли, в 2023 мир столкнется с риском более серьёзным, чем риски ядерной войны, голода или пандемии. Это риск неотличимости правды от лжи, как для индивидов, так и для социумов любых масштабов. Технологиями, позволяющими стирать различие правды от лжи, являются технологии AICG (генерация контента с помощью ИИ). В основе AICG обучаемые на масштабируемых «больших данных» т.н. «базовые модели» ИИ, адаптируемые для широкого круга задач нижестоящего уровня (большие языковые модели, генераторы изображений, звука, видео, 3D). Достигнутый к началу 2023 г. уровень развития AICG уже таков, что в этом году начнется их внедрение…

Telegram