OmniRoute відправляв код до анонімних моделей замість Ollama
Інструкція радить підключити локальні моделі через Ollama. Тест показав, що авто-роутер auto/best-coding перенаправляв код до no-auth провайдерів, зокрема до моделі big-pickle.
Під час тестування інструкції з підключення локальних моделей через Ollama виявили, що авто-роутер auto/best-coding в OmniRoute перенаправляв код до провайдерів без авторизації, зокрема до моделі big-pickle.
Тест проводили на машині, де Ollama додали як локального провайдера через сторінку підключень: натиснули «Add Connection», залишили адресу за замовчуванням http://localhost:11434/v1 і не вказували ключ. Після підключення локальні моделі імпортувалися в каталог OmniRoute, що також підтримує LM Studio, llama.cpp, vLLM та інші локальні рушії.
Щоб імітувати вичерпання ліміту стороннього сервісу DeepSeek, тестувальники відключили DeepSeek. При цьому авто-роутер не переключився на локальну Ollama і пройшов по списку безавторизаційних провайдерів: спочатку звернення до Auggie, потім запит через веб-проксі DuckDuckGo і зрештою відповідь від моделі big-pickle з анонімного пулу OpenCode.
У логах зафіксовано помилки при зверненнях до Auggie і DuckDuckGo та остаточну відповідь від big-pickle. Auggie на тестовій системі не була встановлена. Модель big-pickle належить анонімному пулу, реальні власники якого не вказані.
Під час перевірки локальна модель, що працювала на тестовій машині, через шлюз відповіла «я Qwen, працюю на серверах Alibaba Cloud», хоча процес дійсно працював локально. У повідомленнях зазначено, що моделі можуть повертати некоректні метадані про середовище запуску.
У README OmniRoute згадується гарантія «100% локальний проксі». Тест показав, що за певних умов роутер звертається до зовнішніх no-auth провайдерів.
Автори інструкції рекомендують не використовувати авто-варіанти типу auto/best-coding для робочого коду, явно вказувати бажаний провайдер у налаштуваннях маршрутизації або відключати автоматичний вибір. Також радять перевіряти логи під час помилок доступу до основного провайдера, щоб визначити, куди переадресовуються запити.
Матеріали на GNcrypto надаються виключно з інформаційною метою і не є фінансовою порадою. Ми намагаємось забезпечувати точність та актуальність даних, однак не можемо гарантувати їхню повну достовірність чи надійність. GNcrypto не несе відповідальності за можливі помилки, упущення або фінансові збитки, що можуть виникнути внаслідок використання цієї інформації. Усі дії ви здійснюєте на власний ризик. Завжди проводьте власне дослідження та звертайтесь до фахівців. Детальніше дивіться на наших сторiнках Умови, Політика конфіденційності та Дисклеймер.
Статті цього автора
