[TÓPICO OFICIAL] SD - Stable Diffusion - Definição, Dúvidas, etc.

[glass]

Tem certeza que estas pessoas não estão usando uma API baseada em DirectML? Talvez seja por isso que tá funcionando.

Em teoria o Stable Diffusion pode ser portado pra Vulkan, mas eu não tenho a mínima noção de pra quando vão fazer isso e se alguém tem disposição para isso.

Você pode tentar essas soluções pra rodar em GPUs da AMD, tem vários métodos.

Install and Run on AMD GPUs

Stable Diffusion web UI. Contribute to AUTOMATIC1111/stable-diffusion-webui development by creating an account on GitHub.

github.com

acho que pra ter desempenho decente so no linux mesmo

Você pode tentar o ComfyUI, ele é mais "seco" e dizem que precisa de menos Vram pra rodar os modelos, mas a arquitetura é toda baseada em Nodes e muita gente se enrola, automatic1111 é o gateway que o povo usa.

--- Post duplo é unido automaticamente: 07/08/2023 ---

usei 2 embeddings no prompt negativo, BadDream e o outro não lembro o nome agora..

--- Post duplo é unido automaticamente: 07/08/2023 ---

ah sim, tive que usar inpainting para corrigir uns detalhes.

Você quer RE? A gente tem RE em casa.

Spoiler: Um pouco NSFW

 

[猫同志]

Não, há inúmeros reports das 7000 que mencionei no linux, vc pode olhar aqui:

SD WebUI Benchmark Data

SD WebUI Benchmark Data; Author: Vladimir Mandic <https://github.com/vladmandic>

vladmandic.github.io

Então pode ser que seja um problema específico do meu chip mesmo, até porque nessa lista eu não encontrei nenhum report da RX 7600.

 

[glass]

Então pode ser que seja um problema específico do meu chip mesmo, até porque nessa lista eu não encontrei nenhum report da RX 7600.

Já tentou os outros métodos de instalação? CPU é realmente bem ineficiente.

--- Post duplo é unido automaticamente: 07/08/2023 ---

Última versão do ROCm não é suportada nativamente no windows, vai ter que esperar ou ver alternativas...

 

[猫同志]

Já tentou os outros métodos de instalação? CPU é realmente bem ineficiente.

Bom, eu andei analisando o script do WebUI e notei uma coisa interessante.

Eles tem condicionais específicas para gerações de placas AMD, como podemos ver no código abaixo do arquivo webui.sh

Isto significa que eles realmente tentam resolver problemas de compatibilidade, fazendo gambiarras pra funcionar inclusive em drivers não oficialmente suportados pelo rocm driver, e eu posso até ver aquela variável que fazia a minha RX 6400 funcionar. hehe

Isso resolveu o meu problema? Ainda não, pois eu recebi esta mensagem de erro ao executar o código:

Eu acredito que para agora, este problema não tem uma solução, pois ainda não criaram uma versão do Pytorch que funcione na minha placa de video, e creio que seja este o problema.

--- Post duplo é unido automaticamente: 07/08/2023 ---

E galera, eu sei que CPU é lento para calcular modelos de inteligência artificial, mas é melhor rodar em CPU do que não ter alternativas pra resolver o problema.

 

[glass]

Bom, eu andei analisando o script do WebUI e notei uma coisa interessante.

Eles tem condicionais específicas para gerações de placas AMD, como podemos ver no código abaixo do arquivo webui.sh

Isto significa que eles realmente tentam resolver problemas de compatibilidade, fazendo gambiarras pra funcionar inclusive em drivers não oficialmente suportados pelo rocm driver, e eu posso até ver aquela variável que fazia a minha RX 6400 funcionar. hehe

Isso resolveu o meu problema? Ainda não, pois eu recebi esta mensagem de erro ao executar o código:

Eu acredito que para agora, este problema não tem uma solução, pois ainda não criaram uma versão do Pytorch que funcione na minha placa de video, e creio que seja este o problema.

--- Post duplo é unido automaticamente: 07/08/2023 ---

E galera, eu sei que CPU é lento para calcular modelos de inteligência artificial, mas é melhor rodar em CPU do que não ter alternativas pra resolver o problema.

Verdade, olha na minha mensagem acima, o pytorch não reconhece o último ROCm no windows, você pode usar o venv, mas ainda assim é complciado.

 

[猫同志]

Verdade, olha na minha mensagem acima, o pytorch não reconhece o último ROCm no windows, você pode usar o venv, mas ainda assim é complciado.

Tecnicamente eu uso Linux, mas agradeço a quem tentou me ajudar.

Eu acredito que é uma boa ideia eu simplesmente aguardar, em alguns meses devem resolver essas coisas e eu terei mais de 40 teraflops à minha disposição pra fazer brincadeiras na velocidade da luz.

Até lá, eu sigo realizando o propósito do meu upgrade para 64 GB de RAM, que é o de criar imagens gigantescas que eu nunca vou poder fazer na minha GPU por falta de VRAM.

 

[glass]

Eu acredito que é uma boa ideia eu simplesmente aguardar, em alguns meses devem resolver essas coisas e eu terei mais de 40 teraflops à minha disposição pra fazer brincadeiras na velocidade da luz.

Explique-se!

 

[猫同志]

Explique-se!

O que eu devo explicar?

 

[glass]

O que eu devo explicar?

Só não entendi esse 40 teraflops, isso é da 7600 ou você vai receber nova gpu? : P

 

[猫同志]

Só não entendi esse 40 teraflops, isso é da 7600 ou você vai receber nova gpu? : P

Sim, é da minha RX 7600, são mais de 40 teraflops em meia precisão (ponto flutuante de 16 bits).

Esse número assusta? É comum em placas intermediárias de última geração.

Eu acredito que o FP16 é relevante neste caso, porque muitos modelos treinados são de 16 bits mesmo, mas se considerar os de 32 bits, são um pouco mais de 20 teraflops.

Errata: Acabei de descobri que as placas da NVIDIA por algum motivo, não dobram mais a capacidade de FP16 em relação a FP32.

 

[glass]

Sim, é da minha RX 7600, são mais de 40 teraflops em meia precisão (ponto flutuante de 16 bits).

Esse número assusta? É comum em placas intermediárias de última geração.

Eu acredito que o FP16 é relevante neste caso, porque muitos modelos treinados são de 16 bits mesmo, mas se considerar os de 32 bits, são um pouco mais de 20 teraflops.

Muito bom.

 

[igormp]

acho que pra ter desempenho decente so no linux mesmo

Ah, isso é, windows ainda tá bem atrás nessas coisas, oq faz sentido já que ngm desenvolve essas coisas no windows.

Então pode ser que seja um problema específico do meu chip mesmo, até porque nessa lista eu não encontrei nenhum report da RX 7600.

Sim, pode ser alguma besteira mesmo que impeça, ou pode ser só pouca gente testando com ela, difícil saber ao certo.

Última versão do ROCm não é suportada nativamente no windows, vai ter que esperar ou ver alternativas...

Isso daí é do pytorch, o ROCm em si tem pra windows e já tem versão nova:

Windows quick-start installation guide — HIP SDK installation Windows

Windows quick-start installation guide

rocm.docs.amd.com

Isto significa que eles realmente tentam resolver problemas de compatibilidade, fazendo gambiarras pra funcionar inclusive em drivers não oficialmente suportados pelo rocm driver, e eu posso até ver aquela variável que fazia a minha RX 6400 funcionar. hehe

Pode ver que tem a Navi3 ali.

Eu acredito que para agora, este problema não tem uma solução, pois ainda não criaram uma versão do Pytorch que funcione na minha placa de video, e creio que seja este o problema.

Hmmm, realmente pode ser bronca do pytorch com essa versão mais antiga do ROCm, talvez se usar uma versão mais nova dê certo. Tem coragem de configurar pytorch e rocm manualmente?

 

[glass]

Ah, isso é, windows ainda tá bem atrás nessas coisas, oq faz sentido já que ngm desenvolve essas coisas no windows.

Sim, pode ser alguma besteira mesmo que impeça, ou pode ser só pouca gente testando com ela, difícil saber ao certo.

Isso daí é do pytorch, o ROCm em si tem pra windows e já tem versão nova:

Windows quick-start installation guide — HIP SDK installation Windows

Windows quick-start installation guide

rocm.docs.amd.com

Pode ver que tem a Navi3 ali.

Hmmm, realmente pode ser bronca do pytorch com essa versão mais antiga do ROCm, talvez se usar uma versão mais nova dê certo. Tem coragem de configurar pytorch e rocm manualmente?

Pois é, mas até o PyTorch suportar na atualização mais recente ou você tenta gambiarrar ou espera.

 

[猫同志]

Hmmm, realmente pode ser bronca do pytorch com essa versão mais antiga do ROCm, talvez se usar uma versão mais nova dê certo. Tem coragem de configurar pytorch e rocm manualmente?

Eu poderia tentar, mas eu no momento não me sinto com paciência para ousar fazer isso, então pra mim é mais conveniente fingir que o problema não existe, ainda mais levando em conta que eu não tenho muita prática em desenvolvimento e que existe uma solução alternativa.

Sim, eu sei ler o código até certo ponto, mas isso não significa que eu tenha a expertise necessária pra resolver este problema em específico.

 

[glass]

Eu poderia tentar, mas eu no momento não me sinto com paciência para ousar fazer isso, então pra mim é mais conveniente fingir que o problema não existe, ainda mais levando em conta que eu não tenho muita prática em desenvolvimento e que existe uma solução alternativa.

Sim, eu sei ler o código até certo ponto, mas isso não significa que eu tenha a expertise necessária pra resolver este problema em específico.

Sem rolo, foi assim com a 4090, o @igormp acompanhou minha saga, bastou ativar Xformers e esperar que o Automatic1111 fez o update automatico, botei no script a instrução get Pull, pra atualizar qualquer mudança no github deles.

 

[igormp]

Pois é, mas até o PyTorch suportar na atualização mais recente ou você tenta gambiarrar ou espera.

Não, isso são os binários prontos, vc pode só buildar na sua máquina do jeito que quiser. Só pra exemplo, eu tô com o pytorch no cuda 12, que nem é suportado oficialmente também

Eu poderia tentar, mas eu no momento não me sinto com paciência para ousar fazer isso, então pra mim é mais conveniente fingir que o problema não existe, ainda mais levando em conta que eu não tenho muita prática em desenvolvimento e que existe uma solução alternativa.

Sim, eu sei ler o código até certo ponto, mas isso não significa que eu tenha a expertise necessária pra resolver este problema em específico.

Compreensível. Caso queira tentar e precisar de ajuda, só falar também.

 

[glass]

Não, isso são os binários prontos, vc pode só buildar na sua máquina do jeito que quiser. Só pra exemplo, eu tô com o pytorch no cuda 12, que nem é suportado oficialmente também

Compreensível. Caso queira tentar e precisar de ajuda, só falar também.

Aqui eu botei o Cuda 12 uma vez anteriormente mas por algum motivo só tive o aumento de it depois que o repositório atualizou algumas paradas. Estranhamente o KIS odeia o Gradius, sempre me alertando dele, EU SEI QUE É UM PROXY.

 

[猫同志]

Esta eu vou deixar as especificações completas, pra quem quiser melhorar, pois é uma homenagem à comunidade de compartilhamento digital e também aos que usam Windows.

Prompt: pirate sailboat on the beach, cemetery, skuls, sunset
Seed: 569011082,
Dimensions: 1536x768,
Sampler: euler_a,
Inference Steps: 20,
Guidance Scale: 7.5,
Model: v2-1_768-ema-pruned,
Upscale: latent_upscaler (2x)

 

[glass]

Esta eu vou deixar as especificações completas, pra quem quiser melhorar, pois é uma homenagem à comunidade de compartilhamento digital e também aos que usam Windows.

Prompt: pirate sailboat on the beach, cemetery, skuls, sunset
Seed: 569011082,
Dimensions: 1536x768,
Sampler: euler_a,
Inference Steps: 20,
Guidance Scale: 7.5,
Model: v2-1_768-ema-pruned,
Upscale: latent_upscaler (2x)

Gang do windows! Vou de base mimir pra trabalhar, fui!

 

[猫同志]

Bom, agora que eu acordei, vou fazer mais um teste.

Vou tentar iniciar o WebUI com a variável HSA_OVERRIDE_GFX_VERSION=11.0.0, para ver se dá certo.

--- Post duplo é unido automaticamente: 08/08/2023 ---

Deu certo! A Radeon RX 7600 gerou uma imagem com sucesso!

Então fica a dica:

Quem tem RDNA 3, pode meter HSA_OVERRIDE_GFX_VERSION=11.0.0 antes da inicialização do script, que funciona perfeitamente, e aproveitar também pra registrar este bug lá no Github para esta variável não ser necessária na inicialização.

Também vou deixar a imagem que eu acabei de gerar pra este teste.

 

[solofpadawan]

Bom, agora que eu acordei, vou fazer mais um teste.

Vou tentar iniciar o WebUI com a variável HSA_OVERRIDE_GFX_VERSION=11.0.0, para ver se dá certo.

o que acontece setando ela para 11.0.0 ?

--- Post duplo é unido automaticamente: 08/08/2023 ---

Bom, agora que eu acordei, vou fazer mais um teste.

Vou tentar iniciar o WebUI com a variável HSA_OVERRIDE_GFX_VERSION=11.0.0, para ver se dá certo.

--- Post duplo é unido automaticamente: 08/08/2023 ---

Deu certo! A Radeon RX 7600 gerou uma imagem com sucesso!

Então fica a dica:

Quem tem RDNA 3, pode meter HSA_OVERRIDE_GFX_VERSION=11.0.0 antes da inicialização do script, que funciona perfeitamente, e aproveitar também pra registrar este bug lá no Github para esta variável não ser necessária na inicialização.

Também vou deixar a imagem que eu acabei de gerar pra este teste.

daora!!! quanto tempo tá demorando para renderizar?

 

[猫同志]

o que acontece setando ela para 11.0.0 ?

Eu não sei, mas pelo que eu entendi, você meio que informa ao programa que este processador gráfico é uma "RX 7900 XTX", é meio que uma forma de enganar os verificadores que detectam este processador gráfico específico.

Sem este verificador, eles não tem um código específico para a tua placa de video, a não ser que ela seja uma RX 7900 XTX.

--- Post duplo é unido automaticamente: 08/08/2023 ---

daora!!! quanto tempo tá demorando para renderizar?

Demorou mais pra inicializar do que pra renderizar.

A renderização foi uma questão de segundos, pelo que eu entendi numa velocidade um pouco maior que 7 it/s.

Errata: Agora que estou gerando 100 imagens, a velocidade está em torno de 5,5 it/s, então eu vou considerar que esta é a velocidade da minha placa de video pra gerar imagens 512x512.

 

[solofpadawan]

Eu não sei, mas pelo que eu entendi, você meio que informa ao programa que este processador gráfico é uma "RX 7900 XTX", é meio que uma forma de enganar os verificadores que detectam este processador gráfico específico.

Sem este verificador, eles não tem um código específico para a tua placa de video, a não ser que ela seja uma RX 7900 XTX.

--- Post duplo é unido automaticamente: 08/08/2023 ---

Demorou mais pra inicializar do que pra renderizar.

A renderização foi uma questão de segundos, pelo que eu entendi numa velocidade um pouco maior que 7 it/s.

mas também essa placa é top RX 7900 XTX!!

 

[猫同志]

mas também essa placa é top RX 7900 XTX!!

Com certeza, é uma placa de video do caraca (para não falar nenhum palavrão).

Pena que minha placa de video é "apenas" uma RX 7600. rsrsrs

 

[solofpadawan]

Com certeza, é uma placa de video do caraca (para não falar nenhum palavrão).

Pena que minha placa de video é "apenas" uma RX 7600. rsrsrs

por falar nisso a RX 7900 XTX Phantom Gaming da ASRock tá em promoção na loja que explode.