Elle Russell, co-fundadora da NightCafe, sediada em Cairns, Austrália, que oferece um conjunto de ferramentas de criação de arte alimentadas por inteligência artificial, prefere evitar os holofotes.

Gosto de permanecer escondida atrás dos meus monitores, disse-me numa entrevista recente.

A NightCafe é igualmente discreta.

A empresa, que Russell ajudou seu parceiro, Angus Russell, a lançar há cinco anos, não recebe a mesma publicidade que alguns de seus concorrentes, como a Midjourney. No entanto, a NightCafe - uma empreitada totalmente autofinanciada e lucrativa na maioria dos meses, de acordo com Elle - tem um alcance enorme. Seus mais de 25 milhões de usuários já criaram quase um bilhão de imagens com suas ferramentas.

Para abrir o pano sobre um dos mais antigos mercados de arte generativa na web, falei com Elle sobre as origens da NightCafe, alguns dos desafios que a plataforma enfrenta e para onde ela e Angus a veem evoluindo daqui em diante.

Um site para arte de parede

Segundo a história da fundação da NightCafe, Angus havia se mudado recentemente para uma casa geminada na área de Inner West, em Sydney, e ainda não tinha tido a chance de decorá-la com muitas obras de arte. Deveria ter algumas obras de arte; as paredes estão nuas, comentou um convidado. E enquanto Angus concordava, não conseguia encontrar nenhuma impressão online que o cativasse.

Assim, em 2019, Angus, que tinha uma graduação em design e que havia co-fundado algumas startups focadas em design, começou um projeto paralelo: um site onde as pessoas poderiam comprar e vender arte gerada por IA. Ele o chamou de NightCafe, em homenagem a "O Café à Noite", de Vincent Van Gogh.

Foi um fracasso total.

As pessoas gostavam de criar a arte, o que a NightCafe não cobrava. Mas não queriam pagar por impressões de parede, que era a única forma de a site ganhar dinheiro.

Então, em uma semana fatídica, Angus percebeu que a conta de hospedagem estava algumas centenas de dólares mais alta do que o normal. Alguém havia gerado milhares de imagens em apenas alguns dias. Ele implementou um sistema de crédito para evitar que isso acontecesse novamente.

Pouco depois, a caixa de entrada de Angus foi inundada de pedidos para adicionar uma opção de comprar mais créditos, o que ele fez. Praticamente da noite para o dia, o site se tornou lucrativo.

Foi nesse ponto que Elle se juntou à NightCafe para gerenciar o lado comercial da operação. Tenho dois bacharelados, em negócios e comunicações, e também sou CPA, disse ela. Tinha sentido.

Sucesso viral da NightCafe

Em meados de 2021, a NightCafe conseguiu sua segunda grande oportunidade, quando a OpenAI anunciou o DALL-E.

O DALL-E, primeiro modelo de IA gerador de imagens da OpenAI, era de ponta na época. A OpenAI optou por não lançá-lo, mas não demorou muito para que entusiastas conseguissem engenharia reversa de alguns dos métodos por trás do DALL-E e construíssem modelos de código aberto próprios.

Angus, que vinha acompanhando de perto os desenvolvimentos, trabalhou rapidamente para colocar um dos mais populares alternativas do DALL-E, o VQGAN+CLIP, na NightCafe. Ele investiu em centenas de GPUs para ampliar a escala.

O investimento logo se pagou.

As imagens criadas com o VQGAN+CLIP da NightCafe explodiram no Reddit; a NightCafe fez $17,000 em um único dia. Angus decidiu deixar seu emprego na Atlassian para trabalhar na plataforma em tempo integral.

Um mercado de modelos

A NightCafe de hoje é bastante diferente da NightCafe de vários anos atrás.

A plataforma ainda roda alguns modelos em seus próprios servidores, incluindo versões recentes do Stable Diffusion e Ideogram. Mas também integra APIs de fornecedores de IA que oferecem esses modelos, entregando o que se resume a interfaces personalizadas para geradores de terceiros.

Isso quer dizer que a NightCafe adiciona ferramentas aos modelos de outros lugares, incluindo OpenAI, Google e Black Forest Labs. E, como tem feito desde 2019, o site fornece serviços de impressão para clientes que desejam canecas, camisetas e impressões de qualquer arte que gerem.

Somos uma empresa de interface do usuário e comunidade, disse Elle. A NightCafe não tem capacidade interna de IA ou aprendizado de máquina; agregamos os modelos de imagens disponíveis e os tornamos divertidos e acessíveis de usar..

Nas salas de chat da NightCafe, os usuários podem compartilhar sua arte e colaborar, ou iniciar Desafios de Arte de IA. A plataforma também hospeda competições oficiais onde as pessoas podem enviar suas criações para destaque.

No ano passado, a NightCafe introduziu o ajuste fino, que permite aos usuários treinar um modelo para recriar um estilo, rosto ou objeto específico enviando imagens de exemplo. Modelos ajustados na NightCafe estão sujeitos a certas restrições; por exemplo, não podem ser treinados em imagens mostrando nudez, celebridades ou pessoas menores de 18 anos, e devem ser aprovados manualmente pela equipe de moderação da NightCafe. (Isso é para mitigar o risco de deepfakes.)

A NightCafe é gratuita para usar, mas apenas até um certo número de imagens. Pacotes de créditos de geração de imagens podem ser adquiridos individualmente, e determinados recursos são protegidos por uma assinatura. Por taxas que variam de $4,79 a $50 por mês (substituindo Midjourney e Civitai), os usuários têm acesso prioritário a modelos mais capazes, a capacidade de dar gorjetas aos criadores, a capacidade de ajuste fino mencionada anteriormente e um limite de geração de imagens mais alto.

É um modelo que tem funcionado excepcionalmente bem para a NightCafe.

Uma fonte próxima à empresa disse ao TechCrunch que a NightCafe está arrecadando $4 milhões em receita anualizada com uma margem bruta de quase 50%, significando que a NightCafe está gerando aproximadamente $2 milhões por ano em lucro após despesas (incluindo folha de pagamento para seus nove funcionários). Cerca de um milhão de pessoas estão visitando a NightCafe a cada mês, diz Elle, e 20.000 têm uma assinatura. Qualquer gerador de arte por IA online está competindo pelo dinheiro das mesmas pessoas, embora nossos usuários tenham uma tendência mais velha do que a maioria da indústria, afirmou ela. Consideramos nossos maiores concorrentes serem outros aplicativos com uma comunidade forte: Leonardo, Civitai e Midjourney.

Preocupações de direitos autorais sobre a arte de IA

Ao optar por não treinar a sua própria IA (e ao moderar o ajuste fino), a NightCafe está tentando se manter afastada do impasse legal que enredou muitos dos fornecedores de IA cujos modelos ela agrega.

A Stability AI, a Midjourney e um par de outros provedores de modelo, a DeviantArt e a Runway, enfrentam uma ação coletiva movida por artistas que alegam que os fornecedores infringiram direitos autorais ao treinar seus modelos em arte sem permissão. (Os fornecedores afirmam uma defesa de uso justo.) Algumas partes do processo foram anuladas. Mas um juiz federal permitiu que avançasse para a fase de descoberta no início deste mês.

A NightCafe pode estar protegida pela Seção 230 do Communications Decency Act, que responsabiliza os usuários, não as plataformas, por conteúdo ilegal (como arte infringindo direitos autorais), desde que as plataformas removam o conteúdo mediante solicitação. A Austrália, onde a NightCafe está sediada, tem a Broadcasting Services Act, que espelha de perto a Seção 230 com a exceção de impor taxas adicionais mais altas por não remover rapidamente um material extremamente violento.

Claro, se um tribunal decidir que os modelos que a NightCafe usa são essencialmente máquinas de plágio, isso poderia ser desruptivo para o negócio da empresa. Mas e quanto aos direitos autorais no que diz respeito aos usuários da NightCafe e a arte que eles geram?

De acordo com os termos de serviço da plataforma, os usuários mantêm os direitos autorais de suas obras de arte geradas por IA em países que reconhecem esses tipos de obras como passíveis de direitos autorais (como os EUA) - pelo menos enquanto houver permissão para usar qualquer marca, logo ou marca registrada de terceiros dentro delas.

Uma postagem em maio passado no blog da NightCafe esclarece mais: Criadores legítimos reconhecem e reconhecem de onde veio a inspiração usada para criar suas imagens derivadas de outra fonte. As ferramentas de criação de IA também estão evoluindo rapidamente, com sistemas em desenvolvimento para apoiar o ambiente criativo contínuo enquanto garantem que os usuários só possam acessar material-fonte com o consentimento do artista original - da mesma forma que uma imagem de fotografia livre de royalties pode ser permitida para uso desde que o criador seja referenciado.

Em outras palavras, na visão da NightCafe, são os usuários, não a NightCafe, que devem se proteger. E se não o fizerem, a plataforma não os defenderá da ira dos detentores de propriedade intelectual.

No entanto, parece que os detentores de propriedade intelectual não intimidam muitos usuários.

Buscas rápidas na NightCafe trazem imagens de Pokémon e Donald Duck, celebridades como Britney Spears, marcas como Coca-Cola e LEGO e obras de arte no estilo de artistas como Stanley Artgerm Lau. Nenhuma parece ter sido gerada com a permissão dos detentores dos direitos autorais.

Os usuários também podem relatar conteúdo que passou pelos filtros automáticos, e temos uma equipe de moderadores humanos trabalhando 24/7 na moderação do conteúdo sinalizado, disse Elle quando questionada sobre isso.

Políticas políticas e deepfakes

Ao passar para a moderação em minha entrevista com Elle, mergulhamos nas diretrizes gerais de conteúdo da NightCafe, particularmente em suas políticas em torno da política e deepfakes.

Plataformas, incluindo a Midjourney, têm tomado a medida de proibir usuários de gerar imagens de figuras políticas como Donald Trump e Kamala Harris às vésperas das eleições presidenciais dos EUA. Mas a NightCafe não - e não pretende, de acordo com Elle.

Gerar imagens de Trump e de outras figuras políticas e públicas é permitido, disse ela. No entanto, não queremos que a NightCafe seja um lugar para argumentos políticos.

Como a NightCafe pode fazer isso? Embora a plataforma não impeça os usuários de publicar imagens políticas em outros lugares, ela as sinalizará para revisão se um usuário tentar postá-las nos feeds públicos da NightCafe.

Nesse caso, é trivial encontrar imagens de Biden em uma cadeira de rodas, Trump segurando uma arma e memes questionáveis de Harris na galeria pública da NightCafe. Com pesquisas mostrando que a maioria dos americanos está preocupada com a disseminação de propaganda e deepfakes por IA, a NightCafe certamente não facilitou a aplicação.

Quanto ao que é ou não permitido: depende.

Isca política, glorificação de figuras divisivas ou imagens propositalmente desfavoráveis ou degradantes são não permitidas (apesar do que minhas buscas encontraram). A maioria do conteúdo que a pessoa comum consideraria nocivo ou ofensivo também é proibido; os padrões da comunidade da NightCafe citam coisas como imagens racistas e homofóbicas, spam, palavrões ofensivos, temas de terrorismo, imagens zombando de pessoas com deficiências e representações de grupos e símbolos de ódio.

Esses assuntos podem ser tecnicamente proibidos. Mas insira um termo como 'atentado suicida' na barra de pesquisa da NightCafe e há uma boa chance de você encontrar pelo menos uma imagem que parece desafiar as regras da plataforma.

Elle me disse que cabe aos moderadores interpretar as diretrizes da NightCafe e que publicar repetidamente imagens em uma categoria proibida, ou contornar os filtros automatizados, pode resultar em um aviso ou banimento.

A NightCafe tem uma equipe de moderação relativamente pequena dada o seu tamanho (e o fato de que os usuários do site geram pelo menos 700 imagens por dia): cinco moderadores remunerados e 20 moderadores voluntários que recebem compensações na forma de recursos premium da NightCafe. Os moderadores pagos monitoram o conteúdo, enquanto os voluntários lidam com comentários, as salas de chat da NightCafe e a fila de modelos ajustados finos.

Dadas as más condições de trabalho a que os moderadores de conteúdo muitas vezes são submetidos, perguntei a Elle mais informações sobre as práticas de recrutamento de moderadores da NightCafe. Ela disse que a equipe paga é terceirizada através de uma empresa de outsourcing com base na Indonésia (ela não quis nomear qual) e supervisionada por um membro interno da equipe da NightCafe.

Todos os moderadores pagos recebem um