Kurgan-Telecom Ru | Информационные технологии

Чтобы человек доверял ИИ, а тот не имел возможность обманывать людей, необходимо решить проблему объяснимости, то есть описать, как нейросеть пришла к тому или иному выводу. Похожая проблема существует и в мышлении человека, который далеко не всегда может объяснить, как он приходит к тем или иным выводам (вспомним таблицу Менделеева). Решить ее, и довольно успешно, пытался еще Федор Михайлович Достоевский в рамках своего специального проекта «Дневник писателя».

Проблеме объяснимости рассуждений и выводов нейросетей посвящено множество исследований, в частности, книга «Взломать все. Как сильные мира сего используют уязвимости систем в своих интересах?», написанная экспертом по кибербезопасности, криптографом, гарвардским профессором Брюсом Шнайером.

Проблема объяснимости состоит в том, что ИИ, по сути, являются черными ящиками, в которые с одного конца поступают данные, а с другого выходит ответ, и понять, как как получен этот ответ, не могут даже разработчики нейросетей. Более того, ход «рассуждений» ИИ может не соответствовать формату понятных для человека объяснений в принципе. По мнению Брюса Шнайдера, в ближайшей перспективе ИИ будет все более непрозрачным, поскольку системы усложняются, становясь все менее похожими на человека, а значит, и менее объяснимыми. 

Тем не менее, он считает, что «Система ИИ должна не просто выдавать ответы, но объяснять ход своих рассуждений в формате, понятном человеку. Это необходимо нам как минимум по двум причинам: чтобы доверять решениям ИИ и чтобы убедиться, что он не был хакнут с целью воздействия на его объективность». Кроме того, «аргументированное объяснение … считается основным компонентом идеи надлежащей правовой процедуры в соответствии с законом».

cout - плохой отладчик! Как за 30 секунд найти место падения программы? Какие 7 команд GDB нужно знать каждому C++ разработчику? В этой статье я делюсь личным опытом: как я боялся GDB, думал, что это «магия для гуру», а потом понял, что 70% задач решается простыми командами.

Спойлер: главный страх - это неизвестность. А когда знаешь backtrace, break, next, print и info locals, GDB становится лучшим другом. Статья рассчитана на начинающих C++ разработчиков, которые хотят перестать бояться терминала и начать отлаживать системно.

Нашёл способ использовать Claude Sonnet 4.5 бесплатно. В статье — пошаговая инструкция и реальные настройки для быстрого запуска. Подойдёт тем, кто хочет быстро начать работать с моделью и не платить лишнее.

Первая статья + некоторые мало описанные в интернете ошибки Squid с Kerberos и AD, их диагностика и решение

Существует стереотип, что современная наука об экзопланетах — это прерогатива NASA и ученых с миллионными грантами. Мы — команда обычных школьников и наш наставник — решили доказать, что для открытия новых миров достаточно ноутбука, Python и понимания того, что Машинное Обучение (ML) без физики — это просто генератор случайных чисел.

Это история проекта ExoLogica AI: путь от сокрушительного провала на конференции до создания гибридного интеллекта, который видит то, что иногда пропускают профессиональные телескопы.

Смотрим на детали:

Гермошлем, по-видимому, периодически открывается, чтобы можно было сделать глоток пива

Уважаемый читатель! Это моя вторая статья на Хабр, уроки первой были извлечены.

Как мне кажется – я вскрыл чирий, который начал зреть около двух лет назад. В частности в предыдущей статье:"Как я за два часа написал научную статью с ИИ и что из этого вышло" https://habr.com/ru/articles/1016220/,  продемонстрировал конкретный эксперимент на предмет того, что современные инструменты проверки научных статей типа, АНТИПЛАГИАТ.ВУЗ, бессильны против прорывных ИИ-технологий.

В том эксперименте я надиктовал на диктофон голосом содержание научной статьи и обошел антиплагиат, при этом ни слова не напечатав в самом теле статьи. Это история была неправильно воспринята сообществом, но послужила прекрасным заделом для написания новой статьи.

Я хочу поднять проблему научной этики и современных ИИ технологий.

Смотрите ситуация с научными журналами такова, что решение публиковать статью или нет остается за человеком. Почему же тогда некорректно использовать ИИ для подготовки качественного материала для публикации? Ведь посыл научных статей не в том, чтоб демонстрировать остроту пера конкретного автора, а в том, чтобы двигать научно-технический прогресс.

Но как же болезненно все воспринимают текст от ИИ, хотя никто не может отличить писал ли это человек или писал это искусственный интеллект.

Я могу перечислить плюсы использования ИИ в контексте Российских реалий научных:

1.    Мой печальный опыт заполнения заявок РНФ, даже когда получал оценки экспертов все три рецензии положительных – фонд денег не давал, но при этом каждую заявку я писал не менее 3 недель не занимаясь ни чем кроме нее. Я бы мог спокойно с ИИ качественно оформить ее за 1 день. А оставшиеся двадцать дней потратить на новые идеи и гипотезы.

Асинхронное программирование в c# стало стандартом де-факто с выходом .NET FrameWork 4.5 и появление ключевых слов: async и await. В современном мире трудно представить приложение: API, десктопное приложение без асинхронных вызовов. Однако, мне стало интересно самому разобраться, что на самом деле происходит по капотом: как компилятор преобразует асинхронный код, что такое state machine и почему использование .Result/.wait() может привести к deadlock.

История о том, как превратить консольный скрипт в полноценное Windows приложение с GUI на AutoHotkey v2 при помощи нейросетей и вайбкодинга.

Разбираем этапы от поиска инструментов до борьбы с интерфейсом в стиле софта нулевых без единой строчки кода, написанной вручную.

Если вы хотите сделать мобильное приложение для Северной Европы, то предлагаю узнать, что было драйверами самых успешных приложений в 2025 году.

Перевод отраслевого исследования группы компаний продуктовой разработки Framna.

Методология
Мы провели это исследование, используя модель App Pulse — многомерный подход, разработанный для оценки успеха приложений в различных рынках, отраслях и демографических группах. Данный отчет представляет собой основанный на данных ориентир для оценки эффективности приложений, помогая понять, что способствует их долгосрочному успеху. Исследование мобильных приложений в Северной Европе основано на данных 600 приложений и 9000 пользователей.