Objeto de aprendizagem multimodal

Ensino de LIBRAS com IA, acessibilidade e interação real

O RoboLibras é um software educacional que transforma o alfabeto manual da LIBRAS em uma experiência concreta e inclusiva — combinando texto, voz e câmera.

Demonstração RoboLibras
Em tempo real
Como aprender LIBRAS de forma interativa?
Com o RoboLibras você tem aulas guiadas, quiz, prática com câmera e reconhecimento por IA — tudo para dominar o alfabeto da LIBRAS em um só lugar.
3modos de interação
26letras do alfabeto manual
5modos de aprendizagem
100%gratuito e open source
Sobre o projeto

Um recurso concreto para tornar a aprendizagem de LIBRAS mais concreta, interativa e inclusiva

O RoboLibras foi pensado para professores e estudantes que desejam trabalhar o alfabeto manual da LIBRAS de forma prática. Em vez de apenas observar imagens estáticas, o estudante interage com uma mão robótica, testa sinais, recebe feedback e explora diferentes formas de aprendizagem.

O desafio educacional

O ensino de LIBRAS em contextos inclusivos ainda enfrenta escassez de recursos didáticos interativos. Muitos materiais mostram os sinais, mas poucos permitem compreender concretamente a formação da mão, praticar com feedback e atender diferentes estilos de aprendizagem.

A solução RoboLibras

O sistema integra texto, voz e câmera com o controle de uma mão robótica, oferecendo múltiplos modos de aprendizagem. Com inteligência artificial, é capaz de reconhecer gestos em tempo real e fornecer feedback imediato ao usuário.

Modalidades

Três formas de interação para aprender, praticar e demonstrar

A experiência foi desenhada para funcionar tanto em aula quanto em atividades autônomas, com ou sem Arduino em alguns modos.

Texto

O usuário digita uma palavra ou sequência de caracteres. O sistema soletra cada letra e movimenta a mão robótica conforme a pose cadastrada.

Voz

O modo de voz reconhece fala em português do Brasil e converte palavras e números em sinais executáveis pela interface e pelo robô.

Câmera

Com MediaPipe e OpenCV, o sistema estima landmarks da mão e permite espelhamento ou prática com reconhecimento do sinal realizado.

Modos de aprendizagem

Cinco modos para aprender, explorar e praticar

Do primeiro contato com o alfabeto à prática autônoma com reconhecimento em tempo real — o RoboLibras acompanha cada etapa do aprendizado.

Funcionam sem Arduino

Modo Aula

Explore cada letra do alfabeto com imagem de referência e visualização dos dedos. Perfeito para um primeiro contato guiado com a LIBRAS.

Quiz

Teste o que aprendeu identificando a letra correspondente ao sinal exibido. Uma forma leve e dinâmica de fixar o conteúdo.

Siga o Sinal

Faça o sinal para a câmera e receba feedback imediato. Pratique no seu ritmo, letra por letra, até dominar o alfabeto.

Requerem Arduino e mão robótica

Soletração

Digite ou fale qualquer palavra e veja a mão robótica soletrar em LIBRAS. Uma experiência concreta de como os sinais se encadeiam na língua.

Espelhamento

Mostre sua mão para a câmera e veja a mão robótica reproduzir seus movimentos em tempo real. Ideal para explorar e comparar seus gestos.

Como funciona

Do sinal à mão robótica em segundos

Veja como o RoboLibras transforma uma entrada simples em movimento físico real.

Digite, fale ou gesticule

Escolha como quer interagir: digitando uma palavra, falando em voz alta ou mostrando seu gesto para a câmera.

O sistema reconhece

O RoboLibras identifica a letra ou palavra e consulta o dicionário de sinais da LIBRAS.

A pose é calculada

Cada dedo recebe uma instrução — aberto, semiflexionado ou fechado — conforme o sinal correspondente.

O Arduino recebe o comando

As instruções chegam à placa em milissegundos via conexão USB.

A mão se move

Os cinco servos acionam os tendões e reproduzem fisicamente o sinal do alfabeto manual.

Você aprende com feedback real

Compare seu gesto com o da mão robótica e pratique quantas vezes quiser.

Download

Instale em um clique e comece a aprender LIBRAS agora

Disponível para Windows, Linux (testado em distribuições baseadas em Debian, como Ubuntu) e macOS. Após o download, siga o tutorial abaixo para configurar o ambiente e executar o projeto. Conexão com a internet é necessária durante a instalação para baixar as dependências automaticamente.

Antivírus: alguns antivírus podem bloquear ou remover o instalador por ser um executável novo e não assinado digitalmente. Caso o download seja interrompido ou o arquivo desapareça, desative temporariamente o antivírus durante a instalação e reative logo em seguida. O código-fonte completo está disponível no GitHub para quem quiser verificar.

Tutorial

Configure tudo automaticamente e comece a usar

Baixe o instalador do seu sistema, execute e aguarde. Tudo é configurado automaticamente — Python, dependências e modelo de reconhecimento.

Windows

Baixe o instalador .exe, clique duas vezes e siga as instruções na tela. O processo instala tudo automaticamente e cria um atalho na área de trabalho.

Baixar e executar

Clique em RoboLibras_Instalador.exe na seção de download, execute o arquivo e clique em Sim quando o Windows solicitar permissão.

Aviso do Windows

Se aparecer "O Windows protegeu seu PC", clique em Mais informaçõesExecutar assim mesmo. O código-fonte completo está disponível no GitHub para verificação.

Aguardar a instalação

O instalador baixa e configura Python, dependências e o modelo de reconhecimento automaticamente. Pode levar alguns minutos dependendo da internet.

Iniciar o RoboLibras

Ao finalizar, o app abre automaticamente no navegador em http://localhost:8501. Nas próximas vezes, use o atalho RoboLibras criado na área de trabalho.

Não feche o terminal

Uma janela de terminal ficará aberta em segundo plano — isso é normal. Fechar essa janela encerra o RoboLibras. Minimize-a e deixe rodando enquanto usar o app.

Primeiro acesso

Na primeira execução, o Streamlit pode solicitar um e-mail. Basta pressionar Enter para pular — o app abre normalmente sem precisar cadastrar nada.

Conectar o Arduino (opcional)

Para usar a mão robótica, carregue o StandardFirmata na Arduino IDE: Arquivo → Exemplos → Firmata → StandardFirmata → Upload. Depois informe a porta (ex: COM4) na interface do app.

Linux / macOS

Baixe o script .sh, dê permissão de execução e rode no terminal. Tudo é instalado automaticamente.

Terminal
chmod +x robolibras.sh
./robolibras.sh

Baixar e executar o script

Clique em robolibras.sh na seção de download, abra o terminal na pasta do arquivo e execute os comandos acima.

Aguardar a instalação

O script instala Python 3.10, dependências e o modelo de reconhecimento automaticamente.

Iniciar o RoboLibras

O app abre automaticamente em http://localhost:8501. Nas próximas vezes, execute ./iniciar_robolibras.sh.

Não feche o terminal

O terminal precisa permanecer aberto enquanto o RoboLibras estiver em uso. Fechar o terminal encerra o app. Minimize-o e deixe rodando em segundo plano.

Primeiro acesso

Na primeira execução, o Streamlit pode solicitar um e-mail. Basta pressionar Enter para pular — o app abre normalmente sem precisar cadastrar nada.

Conectar o Arduino (opcional)

Carregue o StandardFirmata na Arduino IDE e informe a porta (ex: /dev/ttyUSB0) na interface do app.

FAQ

Dúvidas comuns antes de instalar

Quais são os requisitos mínimos de hardware?

O RoboLibras funciona na maioria dos computadores modernos. Em máquinas mais antigas, alguns modos com câmera podem ficar mais lentos — mas os modos Aula e Quiz rodam bem em praticamente qualquer equipamento. Uma webcam é necessária apenas para os modos de reconhecimento de gestos.

Consigo usar sem a mão robótica?

Sim. Os modos Aula, Quiz e Siga o Sinal funcionam completamente sem Arduino. A mão robótica é necessária apenas para a execução física dos sinais.

Tive erro ao instalar, o que pode ser?

O erro mais comum é usar uma versão diferente do Python. O RoboLibras requer Python 3.10 porque a biblioteca pyFirmata 1.1.0 depende de recursos removidos em versões mais recentes. O instalador automático já cuida disso.

Quais sinais o sistema suporta?

Nesta versão, o RoboLibras cobre as letras A–Z do alfabeto manual da LIBRAS, totalizando 26 sinais.

Posso montar minha própria mão robótica?

Sim! O projeto é 100% open-source e o hardware é de baixo custo — Arduino Uno e cinco servos SG90. Qualquer kit de mão robótica compatível pode ser usado, mas os ângulos dos servos precisam ser recalibrados para o modelo específico.

O projeto vai continuar evoluindo?

Sim. Os próximos passos incluem testes formais de usabilidade em sala de aula, expansão para palavras e frases completas em LIBRAS e suporte a uma segunda mão robótica para sinais compostos.

Autores

Quem desenvolveu o RoboLibras

Projeto desenvolvido no contexto de pesquisa em educação inclusiva e tecnologia assistiva.

Iandê Richalski

Iandê de Freitas Richalski

Universidade Tecnológica Federal do Paraná

Desenvolvido no âmbito de

InteliGente

InteliGente — UTFPR

Construindo Caminhos de Igualdade com Inteligência Artificial