Знакомьтесь, Ignis

NoLogic

Пользователь
Сообщения
16
Вам необходимо зарегистрироваться для просмотра изображений-вложений


Пилю вот обнову для своего плагина, очень хочется показать (и похвастаться). Чатботами сейчас никого не удивишь, но я засунул чатбота в кубач, и сделал так, что игрок может общаться с жителями (которые прокачаны в 100500 раз). Было бы очень интересно узнать, какое впечатление создают подобные фичи у людей.

You must be registered for see medias
 
Вам необходимо зарегистрироваться для просмотра изображений-вложений


Пилю вот обнову для своего плагина, очень хочется показать (и похвастаться). Чатботами сейчас никого не удивишь, но я засунул чатбота в кубач, и сделал так, что игрок может общаться с жителями (которые прокачаны в 100500 раз). Было бы очень интересно узнать, какое впечатление создают подобные фичи у людей.

You must be registered for see medias
А не дорого ли это будет использовать AI для такого ...
 
А не дорого ли это будет использовать AI для такого ...
Gemini бесплатен. Там, конечно, есть лимит по токенам, но я ни разу ещё не видел, чтобы кто-то его превышал. Даже если кто-то умудрится — всегда можно использовать разные ключи. У каждого API-ключа, судя по моим тестам, свой лимит. Я попозже запишу видео, где я общаюсь с NPC, используя русский язык. Я придумал "генеративную локализацию", и чтобы перевести плагин на другой язык, достаточно лишь изменить одну строку в конфиге, лол.
 
Gemini бесплатен. Там, конечно, есть лимит по токенам, но я ни разу ещё не видел, чтобы кто-то его превышал. Даже если кто-то умудрится — всегда можно использовать разные ключи. У каждого API-ключа, судя по моим тестам, свой лимит.
Это 1 человек врят-ли потратит много токенов, а если будет много игроков?
Будешь этим злоупотреблять - забанят вот и все

Тк содержать тачку для ИИ - не в копеечку
 
Это 1 человек врят-ли потратит много токенов, а если будет много игроков?
Будешь этим злоупотреблять - забанят вот и все

Тк содержать тачку для ИИ - не в копеечку
Что значит много игроков? 10? 50? 1000? Не думаю, что это вообще возможно. Особенно про бан. Никто никого не забанит.
 
Неплохо, тоже года два назад делал такое же для внутриигрового ассистента, но на gpt 3.5, сейчас делать таких ботиков ещё дешевле. На сотню игроков было в среднем около 15 баксов за апи, сейчас насколько я знаю токены стали ещё дешевле. Особенно если использовать o4-mini, который мега дешёвый. А бесплатные версии апи и правда ограниченные, это будет заметно когда начнут массово пользоваться другие игроки.
 
Неплохо, тоже года два назад делал такое же для внутриигрового ассистента, но на gpt 3.5, сейчас делать таких ботиков ещё дешевле. На сотню игроков было в среднем около 15 баксов за апи, сейчас насколько я знаю токены стали ещё дешевле. Особенно если использовать o4-mini, который мега дешёвый. А бесплатные версии апи и правда ограниченные, это будет заметно когда начнут массово пользоваться другие игроки.
Одно дело для техподдержки, к-рую 1 раз по-пользовал раз в месяц и ладно, но когда каждый диалог - сомнительно
 
Круто выглядит.

Я вообще надеюсь, что рано или поздно мы все же придем к использованию небольших локальных моделей внутри игр, которые позволят говорить с NPC на различные темы.
Думал у себя внутри игры сделать NPC который отвечает на всякие вопросы по механикам. Скормить WIKI и посмотреть, как оно будет.

А есть подробности реализации? Какую именно модель используешь и т.д.?
 
Круто выглядит.

Я вообще надеюсь, что рано или поздно мы все же придем к использованию небольших локальных моделей внутри игр, которые позволят говорить с NPC на различные темы.
Думал у себя внутри игры сделать NPC который отвечает на всякие вопросы по механикам. Скормить WIKI и посмотреть, как оно будет.

А есть подробности реализации? Какую именно модель используешь и т.д.?
Чел. Это уже и сегодня реальность

Всего-лишь нужен современный CPU с 32-64мя ядрами и 256гб оперативки и NVME-ssd
Или промышленная видеокарта типа A100

Есть еще специализированные ИИ ускорители, но это эксклюзив для больших компаний

Для своих нужд я состряпал Werb Index (Лингвистик) к-рый на чистой математике и алгоритмах может быстро и неплохо классифицировать предложения и собирать данные, на основе к-рых можно подготовить ответы
 
Чел. Это уже и сегодня реальность

Всего-лишь нужен современный CPU с 32-64мя ядрами и 256гб оперативки и NVME-ssd
Или промышленная видеокарта типа A100

Есть еще специализированные ИИ ускорители, но это эксклюзив для больших компаний

Для своих нужд я состряпал Werb Index (Лингвистик) к-рый на чистой математике и алгоритмах может быстро и неплохо классифицировать предложения и собирать данные, на основе к-рых можно подготовить ответы

Я про локальное использование на компутере обычного работяги, без каких-то промышленных видеокарт или CPU.
Квантование в этом хоть помогает, но все ещё не может приблизиться по качеству с топовыми моделями.
 
Круто выглядит.

Я вообще надеюсь, что рано или поздно мы все же придем к использованию небольших локальных моделей внутри игр, которые позволят говорить с NPC на различные темы.
Думал у себя внутри игры сделать NPC который отвечает на всякие вопросы по механикам. Скормить WIKI и посмотреть, как оно будет.

А есть подробности реализации? Какую именно модель используешь и т.д.?
Не слушай шиза выше, тебе не нужен CPU по оверпрайсу (особенно когда все нормальные люди для таких задач используют TPU), я спокойно использую Gemini через официальное API, при этом не плачу ни копейки и всё работает просто замечательно. Насчёт реализации — это довольно просто. Этот плагин так-то , и сурсы тоже открыты. Если описывать алгоритм, то всё начинается с промпт инженеринга. Описываешь задачу для ИИ, добавляешь нужные тебе плейсхолдеры (например, имя персонажа, с которым ты разговариваешь, раса и прочее), потом заменяешь плейсхолдеры актуальными значениями (это называется контекст), отправляешь нейронке, описывая JSON-схему, которую она тебе вернёт в качестве ответа (можно в шутку назвать это протоколированием на коленке), парсишь, ну и всё, дальше можешь что хочешь делать с результатом.

Прикреплю файл с промптами, чтоб ты понял, как оно выглядит на практике.
 

Вложения

  • prompts.yml
    17.8 KB · Просмотры: 3
Я про локальное использование на компутере обычного работяги, без каких-то промышленных видеокарт или CPU.
Это не возможно в априоре - вычисления где-то должны происходить

Или ИИ ускорители от Nvidia - стоит 500$ а по скорости +- равен парочке A100 за 10_000$
Но когда пойдут на поток для всех желающих - не понятно

А, еще есть Intel Ultra с их NPU, но все равно нужно много оперативки, но уже не ddr4 а придется брать более дорогую ddr5
 
Последнее редактирование:
Не слушай шиза выше, тебе не нужен CPU по оверпрайсу (особенно когда все нормальные люди для таких задач используют TPU)

Да он как бы не шиз, локальный запуск топовых моделей сейчас требует ресурсов, это факт. Я очень надеюсь, что в скором мы получим модельки с которые буду запускаться на средненьких пекарнях/серверах.
Это уже сейчас возможно, например если взять те же LLAMA/SB. Некоторые конфигурации в инференсе уже умеют потреблять не больше 2 GB VRAM. Просто качество всё еще очень хромает.


Этот плагин так-то , и сурсы тоже открыты

Это вообще отлично, пойду изучать, спасибо. Как раз было интересно Gemini попробовать, сам OpenRouter юзаю с deepseek v3 base.
 
Некоторые конфигурации в инференсе уже умеют потреблять не больше 2 GB VRAM. Просто качество всё еще очень хромает.
Чтобы было лучше - нужно накормить большими данными и добавить больше слоев => нужно кратно больше памяти
 
Да он как бы не шиз, локальный запуск топовых моделей сейчас требует ресурсов, это факт. Я очень надеюсь, что в скором мы получим модельки с которые буду запускаться на средненьких пекарнях/серверах.
Это уже сейчас возможно, например если взять те же LLAMA/SB. Некоторые конфигурации в инференсе уже умеют потреблять не больше 2 GB VRAM. Просто качество всё еще очень хромает.




Это вообще отлично, пойду изучать, спасибо. Как раз было интересно Gemini попробовать, сам OpenRouter юзаю с deepseek v3 base.
Вообще, было бы интересно поговорить о потенциальных областях применения ИИ в видеоиграх. Я не хочу называть себя пионером в этой области, но мне кажется, что в своём плагине я "предсказал" очень много практик, которые в будущем будут использоваться повсеместно. Одна генерация контента чего стоит: из ничего появляются персонажи со своими характерами, именами, репликами, и т. д. Генерация квестов, лора, поселений, даже предметов — это уже даже не фантастика, а реальность (см. пикрил). Я вдохновил одного парня из Германии на изучение этой сферы, ну и он там вообще какую-то йобу пилит с генерацией данжей как в рогаликах. А, ещё один бесспорный плюс — это уничтожение языковых барьеров. В общем, тут всё ограничивается лишь воображением программиста. Ну и лапками.
 

Вложения

  • 1744101756870.png
    1744101756870.png
    56.3 KB · Просмотры: 6
Чтобы было лучше - нужно накормить большими данными и добавить больше слоев => нужно кратно больше памяти
Я ещё раз упомяну квантование. Оно сжимает веса модели путем уменьшения битности вычислений - по сути преобразует в тип данных, который может содержать меньше информации.
Такое сжатие до приемлемого уровня позволяет и сократить размеры модели, и улучшить её эффективность (требования по памяти, например). Да, при квантовании мы теряем в точности, но не всегда это критично - некоторыми параметрами можно пожертвовать.

Прикол в том, что есть уже изученные и рабочие методы квантования, но кто знает - может придумают что-то намного лучше текущего, сфера развиваеся семимильными шагами.
Тогда для меня настанет светлое будущее, ведь я смогу свои две 1660 в сервере использовать на полную мощность)
 
Последнее редактирование:
Вот ещё, кстати, занятный проект. Но это не для кубача.

You must be registered for see medias
 
Одна генерация контента чего стоит: из ничего появляются персонажи со своими характерами, именами, репликами, и т. д

Да я бы не сказал, что это какая-то новая практика. У меня есть знакомый который делал года 2-3 назад (когда только появился ChatGPT) популярного Телеграм-бота по Наруто.
Генерировалось все, в итоге вроде даже получилось (если не ошибаюсь) сделать что-то вроде чата с персонажами.
 
Да я бы не сказал, что это какая-то новая практика. У меня есть знакомый который делал года 2-3 назад (когда только появился ChatGPT) популярного Телеграм-бота по Наруто.
Генерировалось все, в итоге вроде даже получилось (если не ошибаюсь) сделать что-то вроде чата с персонажами.
CharacterAI работает с 2022, если я не ошибаюсь. Но я больше про игровой контент говорю, а не чатики. Можешь выше видос глянуть, если хочешь, тогда поймёшь о чём я говорю.
 
Назад
Сверху Снизу