llm-app
Ready-to-run cloud templates for RAG, AI pipelines, and enterprise search with live data. 🐳Docker-friendly.⚡Always in sync with Sharepoint, Google Drive, S3, Kafka, PostgreSQL, real-time data APIs, and more.
Analisi AI · Italiano
openai · gpt-4o-miniSintesi
Pathway AI Pipelines offre template cloud pronti all'uso per applicazioni AI su larga scala, con particolare attenzione a Retrieval-Augmented Generation (RAG) e ricerca aziendale. Il framework consente la sincronizzazione in tempo reale con diverse fonti di dati (Sharepoint, Google Drive, S3, Kafka, PostgreSQL, API) e include funzionalità integrate per l'indicizzazione vettoriale, ibrida e full-text. Permette agli sviluppatori di creare e deployare rapidamente applicazioni AI che lavorano con dati sempre aggiornati e milioni di documenti.
Casi d'uso
- →Creazione di chatbot intelligenti per il supporto clienti che rispondono a domande basate su documentazione aziendale interna ed esterna, sempre aggiornata.
- →Sistemi di ricerca aziendale avanzata che permettono ai dipendenti di trovare informazioni specifiche all'interno di milioni di documenti (PDF, PPT, DOCX) su Google Drive o SharePoint, con capacità di query in linguaggio naturale.
- →Pipeline di analisi finanziaria automatizzate che estraggono dati strutturati (tabelle, grafici) da report finanziari non strutturati in PDF, li caricano in un database SQL e rispondono a domande complesse tramite LLM.
- →Soluzioni di conformità e auditing che monitorano e analizzano in tempo reale modifiche a documenti legali o policy, generando alert su variazioni significative o rischi.
- →Applicazioni RAG private e on-premises che garantiscono la massima sicurezza dei dati sensibili, utilizzando LLM locali come Mistral e Ollama.
Idee SaaS / Business
Una soluzione SaaS che offre RAG ad alta precisione per grandi aziende, integrandosi con le loro piattaforme di gestione documentale (SharePoint, Google Drive, S3, ecc.). Fornirebbe un'API per la ricerca semantica e la generazione di risposte, con un'interfaccia utente personalizzabile. Il modello di business potrebbe essere basato su abbonamento con livelli legati al volume di dati indicizzati, al numero di query e alla frequenza di aggiornamento dei dati.
Un servizio SaaS specializzato nell'analisi di documenti finanziari. Gli utenti caricano report, bilanci o presentazioni e il sistema estrae automaticamente dati chiave, li struttura, risponde a domande complesse e rileva tendenze o anomalie. Potrebbe includere funzionalità di alert per modifiche in tempo reale ai dati. Il pricing sarebbe basato sull'utilizzo (pagine processate, complessità delle query) e feature premium.
Un servizio per piccole e medie imprese per creare e gestire basi di conoscenza intelligenti che si sincronizzano automaticamente con le fonti di dati esistenti (wiki, Slack, email, drive). Permetterebbe di rispondere rapidamente alle domande dei clienti o dei dipendenti tramite un chatbot basato su RAG, garantendo che le informazioni siano sempre aggiornate. Monetizzazione tramite abbonamento mensile per utente/agente e volume di dati.
README · tradotto in italiano
Pathway AI Pipelines
Pathway AI Pipelines consente di mettere rapidamente in produzione applicazioni AI che offrono RAG ad alta precisione e ricerca aziendale AI su larga scala utilizzando la conoscenza più aggiornata disponibile nelle vostre fonti di dati. Fornisce Modelli di App LLM (Large Language Model) pronti da usare. Potete testarli sulla vostra macchina e fare il deploy su cloud (GCP, AWS, Azure, Render,...) o on-premises.
Le app si connettono e si sincronizzano (tutte le nuove aggiunte, cancellazioni, aggiornamenti di dati) con le fonti di dati sul vostro file system, Google Drive, Sharepoint, S3, Kafka, PostgreSQL, API di dati in tempo reale. Non hanno dipendenze infrastrutturali che richiederebbero una configurazione separata. Includono l'indicizzazione dei dati integrata che abilita la ricerca vettoriale, la ricerca ibrida e la ricerca full-text - tutto fatto in memoria, con cache.
Template di Applicazioni
I template di applicazioni forniti in questo repository scalano fino a milioni di pagine di documenti. Alcuni sono ottimizzati per la semplicità, altri per una precisione eccezionale. Scegliete quello che più vi si addice. Potete usarlo così com'è, oppure modificare alcuni passaggi della pipeline - ad esempio, se voleste aggiungere una nuova fonte di dati, o cambiare un indice vettoriale in un indice ibrido, è sufficiente una singola riga di codice.
| Applicazione (template) | Descrizione |
|---|---|
| Question-Answering RAG App | App RAG end-to-end di base. Una pipeline di risposta alle domande che utilizza il modello GPT scelto per fornire risposte a query sui vostri documenti (PDF, DOCX,...) su una fonte di dati connessa in tempo reale (file, Google Drive, Sharepoint,...). Potete anche provare un endpoint REST demo. |
| Live Document Indexing (Vector Store / Retriever) | Una pipeline di indicizzazione documenti in tempo reale per RAG che agisce come servizio di vector store. Esegue l'indicizzazione live sui vostri documenti (PDF, DOCX,...) da una fonte di dati connessa (files, Google Drive, Sharepoint,...). Può essere usata con qualsiasi frontend, o integrata come backend di retriever per un'applicazione Langchain o Llamaindex. Potete anche provare un endpoint REST demo. |
| Multimodal RAG pipeline con GPT4o | RAG multimodale che utilizza GPT-4o nella fase di parsing per indicizzare PDF e altri documenti da fonti di dati connesse (file, Google Drive, Sharepoint,...). È perfetta per estrarre informazioni da documenti finanziari non strutturati nelle vostre cartelle (inclusi grafici e tabelle), aggiornando i risultati man mano che i documenti cambiano o ne arrivano di nuovi. |
| Unstructured-to-SQL pipeline + SQL question-answering | Un esempio RAG che si connette a fonti di dati finanziari non strutturati (PDF di report finanziari), struttura i dati in SQL e li carica in una tabella PostgreSQL. Risponde anche a query utente in linguaggio naturale su questi documenti finanziari traducendole in SQL usando un LLM ed eseguendo la query sulla tabella PostgreSQL. |
| Adaptive RAG App | Un'applicazione RAG che utilizza Adaptive RAG, una tecnica sviluppata da Pathway per ridurre i costi dei token in RAG fino a 4 volte mantenendo la precisione. |
| Private RAG App con Mistral e Ollama | Una versione completamente privata (locale) della pipeline RAG question_answering_rag che utilizza Pathway, Mistral e Ollama. |
| Slides AI Search App | Una pipeline di indicizzazione per il recupero di slide. Esegue una modalità multimodale di PowerPoint e PDF e mantiene un indice live delle vostre slide." |
Come funzionano queste AI Pipelines?
Le app possono essere eseguite come container Docker ed espongono un'API HTTP per connettere il frontend. Per consentire test e demo rapidi, alcuni template di app includono anche una UI Streamlit opzionale che si connette a questa API.
Le app si basano sul framework Pathway Live Data per la sincronizzazione delle fonti di dati e per servire le richieste API (Pathway è una libreria Python standalone con un motore Rust integrato). Vi offrono una logica applicativa semplice e unificata per il backend, l'embedding, il retrieval e lo stack tecnologico LLM. Non è necessario integrare e mantenere moduli separati per la vostra app Gen AI: Database Vettoriale (es. Pinecone/Weaviate/Qdrant) + Cache (es. Redis) + Framework API (es. Fast API). La scelta predefinita di Pathway per l'indice vettoriale integrato si basa sulla velocissima libreria usearch, e gli indici full-text ibridi utilizzano la libreria Tantivy. Tutto funziona out of the box.
Per iniziare
Ciascuno dei template di app in questo repository contiene un README.md con le istruzioni su come eseguirlo.
Potete anche trovare altri template di codice pronti all'uso sul sito web di Pathway.
Alcuni punti salienti visivi
Estrarre e organizzare senza sforzo dati da tabelle e grafici da PDF, documenti e altro con RAG multimodale - in tempo reale:
(Dai un'occhiata alla pipeline RAG Multimodale con GPT4o per vedere l'intera pipeline in azione. Puoi anche controllare la pipeline Unstructured-to-SQL per un esempio minimo che funziona anche con modelli non multimodali.)
Estrazione e alerting automatico in tempo reale della conoscenza:
(Dai un'occhiata all'esempio dell'app Alerting when answers change on Google Drive.)
Video Fai-da-te
▶️ Un'introduzione alla creazione di app LLM con Pathway - di Jan Chorowski
▶️ Costruiamo un'app LLM del mondo reale in 11 minuti - di Pau Labarta Bajo
Contributi
Chiunque desideri contribuire a questo progetto, che si tratti di documentazione, nuove funzionalità, correzioni di bug, pulizia del codice, test o revisioni del codice, è fortemente incoraggiato a farlo.
Attività commit · ultime 26 settimane
stimaApprofondimenti AI
Chiedi al repo
AI · contesto README + issueFai una domanda sul progetto. L'AI legge README e issue recenti.
Hai bisogno di un server per far girare pathwaycom/llm-app?
Abbiamo testato decine di provider e Hostinger VPS è il miglior rapporto qualità/prezzo per self-hostare le repo che trovi qui. Setup in 1 click, pannello semplice e supporto 24/7.
Questo progetto esiste grazie a voi
RepoRadar AI è gratis e senza pubblicità. Le donazioni coprono server, API e modelli AI.
Ogni analisi tradotta che leggi costa qualche centesimo di chiamate al modello. Se RepoRadar ti ha fatto risparmiare tempo, considera una piccola donazione cripto — anche pochi euro aiutano a mantenere il servizio libero per tutti.
0x86ECDF546d8dFc0739d44c066A6110F11cdB7773bc1qqe0wcmhnt78enk8ql0lxvey4z8hquxsxjtyz8rEtTK61Lz7kfdDM8543TMMiAUUTbFVpzX5tvPEcBtZ3ajGrazie di cuore — ogni contributo conta.