Credit Scoring: Одинокое дерево, целый лес и разочарование в нейросетях

24.07.2026 08:34:51 | Хабр

Хабы: Python

Введение

Кажется, что нейросети могут все. Мы видим результат их работы в системах распознавания лиц, видеоаналитике. Нас поражает умение нейросетей рисовать изображения, распознавать и синтезировать голос, а большие языковые модели уже давно проходят тест Тьюринга и ведут беседу как живые люди. Но, как показал мой эксперимент, в задачах кредитного скоринга они нисколько не лучше классических ML-моделей. В этой статье я расскажу, как решающее дерево, случайный лес, бустинг и даже многослойная нейросеть упираются в один и тот же потолок на данных кредитного скоринга.

Ход эксперимента

В качестве датасета были взяты данные кредитного скоринга с https://www.kaggle.com/competitions/GiveMeSomeCredit. Сначала мы обучили решающее дерево, с кросс-валидацией. График зависимости roc-auc от количества элементов выборки (Ореол вокруг кривой – это дисперсия (разброс) при кроссвалидации):

Подробнее

Читайте также

В 21-й пакет санкций ЕС вошли «Яндекс Банк», «Точка Банк», «Озон Банк», «WB Банк» и ещё 94 российских банка
24.07.2026 08:10:14 | vc.ru

Фокус на сегодня: как мы сделали aeman — доску для ежедневного планирования инженеров поверх GitHub Projects
24.07.2026 08:05:26 | Хабр

Зажигаем погасшее. Оживляем раритетный детектор валют из девяностых
24.07.2026 08:05:08 | Хабр

Почему нельзя идеально оптимизировать светофоры: дело не в алгоритмах
24.07.2026 08:00:08 | Хабр

Тест AGM аккумуляторов GoPower LA-12120 12 Ач и LA-1290 9 Ач
24.07.2026 07:55:02 | Хабр

Мотивация разработчиков: чек-лист для тимлида
24.07.2026 07:48:29 | Хабр

Как превратить домашний сервер в игровой стриминг на любое устройство в доме
24.07.2026 07:40:06 | Хабр

Почему мы не написали ещё один Bad CaRMa
24.07.2026 07:39:40 | Хабр

Prompt injection не чинится фильтром. Разбираем архитектуру, которая изолирует недоверенный текст
24.07.2026 07:27:05 | Хабр

Запуск файловой системы LittleFS на SPI-NAND Flash от GigaDevice
24.07.2026 07:12:19 | Хабр

Reasoning-модели нужно измерять по-новому. Представляем публичный лидерборд MERA Reason
24.07.2026 07:11:11 | Хабр

Большой разбор Physical AI: VLA-модели, гуманоиды, гонка Китая и США и что есть у России. Часть 1
24.07.2026 07:08:21 | Хабр

Про переменные конденсаторы
24.07.2026 07:05:03 | Хабр

Как переводить смешанный русский-казахский и не сойти с ума
24.07.2026 07:01:03 | Хабр

Камеры грядущих Oppo Find X10 протестировали вплотную к iPhone 17 Pro
24.07.2026 06:52:12 | ferra.ru

Приоритизация обработки сообщений в DATAREON Platform: настраиваем очереди по типу данных и свойствам
24.07.2026 06:44:28 | Хабр

Хотел одно число про салоны своего города. Легально оно стоит 226 000 ₽ — обошёлся OpenStreetMap
24.07.2026 06:35:52 | Хабр

Как перестать проверять Codex каждые пять минут: мобильные уведомления через ntfy
24.07.2026 06:20:49 | Хабр

Карточки из музыкальной студии 1975 года против продуктовых тупиков
24.07.2026 06:13:48 | Хабр

Своя GPT-like LLM по WH40K с нуля. Часть 4: Дообучение на вопрос–ответ (SFT)
24.07.2026 06:03:47 | Хабр

AI-агент для анализа требований в финтехе: собираем контекст и находим проблемы до разработки
24.07.2026 06:01:47 | Хабр

Чтение на выходные: «Великие по собственному выбору» Джима Коллинза и Мортена Хансена
24.07.2026 05:54:49 | Хабр

Manticore Search 28.4.4: быстрый рескоринг KNN, более гибкий диалоговый поиск, упрощённая установка и улучшенные фасеты
24.07.2026 05:22:35 | Хабр

Как научить ИИ-агента ошибаться реже: мой опыт работы с Codex внутри Buildin.ai
24.07.2026 04:31:41 | Хабр

EF Core миграции в проде: как Database.Migrate() на старте может превратить релиз в тревожную кнопку
24.07.2026 03:06:35 | Хабр

КАК УСТАНОВИТЬ И НАСТРОИТЬ DARKGRAM: ГАЙДp ДЛЯ НОВЫХ ПОЛЬЗОВАТЕЛЕЙ
24.07.2026 01:34:59 | Хабр

Катушка индуктивности на обратном ходе. Визуальное объяснение
24.07.2026 00:52:26 | Хабр

В Apple Store, похоже, появится ИИ-помощник для покупок
23.07.2026 23:52:12 | ferra.ru

Росатом получил сертификат на первый российский медицинский циклотрон
23.07.2026 23:48:56 | ferra.ru

РЖД испытали робота для автоматической расцепки вагонов
23.07.2026 23:11:01 | ferra.ru

Арктический плавучий университет вернется к исследование Шпицбергена
23.07.2026 23:05:10 | ferra.ru

Linux-переход
23.07.2026 22:36:39 | Хабр

Как «Звук» делает правильное первое впечатление, но косячит со стримингом
23.07.2026 22:25:30 | Хабр

Как «Звук» делает правильное первое впечатление, но косячит со стримингом
23.07.2026 22:25:30 | Хабр

Apple запатентовала «мобильный» моноблок iMac
23.07.2026 22:13:13 | ferra.ru

Смотреть все

НОВОСТИ

Захарова обратилась к Маску с предложением по Starlink
24.07.2026 12:43:02 | Lenta.ru

Сами ни на что не способны: Разработчик «Перуна» разбил мечты Киева о собственной лазерной ПВО
24.07.2026 12:41:00 | Life.ru

Совфед одобрил ограничения для скрывающихся за рубежом преступников и иноагентов
24.07.2026 12:39:59 | Life.ru

СФ одобрил новые правила регулирования территорий опережающего развития в ЗАТО
24.07.2026 12:38:50 | ТАСС

Иран ударил по базе США Арифджан и лагерям Аль-Удайри и Доха в Кувейте
24.07.2026 12:38:15 | ТАСС

За неделю ВС РФ освободили и взяли под контроль восемь населённых пунктов
24.07.2026 12:38:14 | Life.ru

Минобороны выпустило заявление о многотысячном налете беспилотников ВСУ на Россию
24.07.2026 12:38:12 | Lenta.ru

«Русская угроза» опустошила курорты на востоке Европы: 7 стран молят о помощи
24.07.2026 12:38:04 | Life.ru

В Москве грузовик загорелся после ДТП с другим грузовым автомобилем
24.07.2026 12:37:50 | ТАСС

Обвиненный в насилии рэпер раскрыл траты на одежду и высказался о моде
24.07.2026 12:37:12 | Lenta.ru

Минобороны: ВС РФ за неделю поразили 27 судов, использовавшихся в интересах ВСУ
24.07.2026 12:37:12 | Life.ru

Совфед одобрил закон о мониторинге цен на продукты
24.07.2026 12:37:07 | ТАСС

В ФШР назвали голом в ворота скептиков успех юных россиян на турнире в Азии
24.07.2026 12:36:41 | ТАСС

Предприятия ВПК в Киеве и логистические центры стали мишенями для ударов ВС РФ
24.07.2026 12:36:39 | Life.ru

ОГК-2 в I полугодии увеличила выработку электроэнергии на 2,3%
24.07.2026 12:36:29 | ТАСС

Минэнерго: региональные власти могут вводить ограничения по топливу
24.07.2026 12:36:21 | ТАСС

Минэнерго и регионы РФ работают по насыщению рынка топливом
24.07.2026 12:35:49 | ТАСС

СФ одобрил закон, отменяющий обязательную оферту при передаче акций Росимуществу
24.07.2026 12:35:31 | ТАСС

Британский генерал возглавил командование многонациональными силами для Украины
24.07.2026 12:35:22 | ТАСС

Лавров и глава МИД Узбекистана подтвердили курс на укрепление партнерства
24.07.2026 12:34:56 | ТАСС

Испания запросила помощь у ЕС из-за ситуации с природными пожарами
24.07.2026 12:33:49 | ТАСС

ВС РФ за неделю нанесли массированный и 18 групповых ударов по портам Украины
24.07.2026 12:33:47 | ТАСС

Росатом обсудил с китайской стороной вопросы мирного атома
24.07.2026 12:33:16 | ТАСС

В Анапе разрешение на открытие получили 97 пляжей
24.07.2026 12:33:11 | ТАСС

The Sun: футболист сборной Австралии Вольпато сдал положительный тест на кокаин
24.07.2026 12:32:46 | ТАСС

СФ одобрил закон о санитарных проверках торговых и пассажирских судов
24.07.2026 12:32:21 | ТАСС

СФ одобрил закон о согласовании Минтрансом глав транспортных ведомств регионов
24.07.2026 12:32:04 | ТАСС

Путин поздравил Мирзиёева с днём рождения
24.07.2026 12:31:54 | Life.ru

Жаров назвал санкции ЕС подтверждением верности курса "Газпром-медиа холдинга"
24.07.2026 12:31:26 | ТАСС

В Оренбуржье сократят число выездов служебного транспорта
24.07.2026 12:31:26 | ТАСС

«Кофемания» закрыла четверть своих кофеен в Москве
24.07.2026 12:31:01 | Life.ru

СФ одобрил право регионов допускать туристические автобусы на выделенные полосы
24.07.2026 12:30:53 | ТАСС

Врачи приняли симптомы агрессивной формы рака у 65-летней женщины за анемию
24.07.2026 12:30:22 | Lenta.ru

Подразделение Сбера продолжит оставаться основным платежным хабом между РФ и Индией
24.07.2026 12:30:00 | ТАСС

Власти приступили к реализации плана финансового оздоровления ТГК-2
24.07.2026 12:29:33 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro