Для Stable Diffusion, прежде всего.
Сразу говорю, нужна не какая-то мощная и свежая видеокарта, а компромиссное и бюджетное решение среди Б\У, которое бы позволило хоть насколько-то "свободно" генерировать картинки на дому. Интересует, какой вариант был бы наиболее выгодный по деньгам? Пока что расчитываю на что-нибудь не дороже 10000 рублей. Пока думаю, возможно может стоит присмотреться к каким-нибудь "читерским" вариантам? Под "читерскими" имею в виду всякие "неигровые" видеокарты - типа тех, что предназначены для майнинга или для GPGPU. Вроде слышал, что у них цена на Б\У ниже, чем у "нормальных" относительно их мощности (та же вычислительная мощность за меньшие деньги). Но не уверен, на сколько это правда. Вроде бы это связано с тем, что народу все-таки больше интересны игры, а такие видеокарты изначально на них не расчитаны, нужны некоторые манипуляции (и возможно даже после них совместимость будет ниже, чем у "нормальных" видеокарт). Вот на Avito натыкался Nvidia P102-100, они вроде там продаются от 6 с небольшим тысяч. Нормальный вариант, или есть что-то повыгоднее?
На YouTube натыкался еще на такое:
Это Nvidia CMP 40HX, но правда у нее только 8 ГБ памяти, против 10 у P102-100, так что наверно P102-100 будет лучше.
Еще, думаю, 10 ГБ, по идее для SDXL достаточно, но вот относительно недавно выкатили уже Flux. Пока не пробовал, но наверно он все-таки должен быть лучше SDXL и наверно в ближайшем будущем стоит перейти на него. По крайней мере, после SDXL, Stable Diffusion 1.5 кажется уже не особо съедобным, возможно и с Flux будет подобная история. Но вот насчет того, будет ли хватать 10 ГБ для Flux уже не уверен.
На данный момент для работы с нейросетями использую онлайн-аренду рабочей станции. Но это очень неудобно, так как тарификация там по времени, а не по затраченным вычислительным ресурсам - даже если машина простаивает, то деньги все равно капают. А часто нужно бывает подупать над запросом и\или подкручиванием некоторых параметров. Конечно запрос(ы) лучше всего придумать перед арендой, чтобы не тратить время впустую, но часто бывает так, что придуманный запрос не работает как ожидалось и приходится его править по месту. Или например уже давно хотелось бы разобраться с ControlNet, но разбираться в условиях постоянной спешки крайне некомфортно, что просто опускаются руки.
К тому же, есть еще неудобство с хранением и копированием данных. Бесплатное место под хранение данных имеет ограниченный срок хранения, после чего данные могут быть удалены. Думал использовать FTP, чтобы копировать все нужные данные с арендованной машины на свой компьютер, а потом при необходимости копировать обратно. Но на практике почему-то скорость оказалась ниже, чем если то же самое скачивать напрямую с Civitai. Тоже неудобно, что через некоторое время приходится перекачивать все по новой. К тому же, на копирование данных тратится то же самое арендное время, что невыгодно.
Просадил на аренду уже 500 рублей, но не сказал, что сгенерировал много чего-либо стоящего. Мне кажется, если так дальше продолжать, то можно довольно быстро истратить сумму, которой бы хватило на покупку компромиссно-бюджетной Б\У видеокарты.
