Open Source

Überblick Aktive Beiträge zum Fedora-Linux-Ökosystem als Paketbetreuer und Mitglied der AI-ML Special Interest Group seit Mai 2024. Rolle & Verantwortlichkeiten Paketbetreuer: Wartung und Aktualisierung von Paketen in Fedora-Repositories AI-ML SIG Mitglied: Zusammenarbeit an KI/ML-Tools für das Fedora-Ökosystem Kollaboration: Arbeit mit 15+ globalen Entwicklern zur Beschleunigung der KI/ML-Tool-Verfügbarkeit Wichtige Pakete llama-cpp Effiziente LLM-Inferenz-Implementierung in C/C++. Zusammenarbeit mit Tom Rix (AMD) bei Paketierung und Wartung. Fedora-Paket whisper-cpp C/C++-Implementierung von OpenAIs Whisper-Spracherkennungsmodell. Fedora-Paket wcurl Leitung der Paketierung und Wartung, Gewährleistung von Stabilität und zeitnahen Updates. ...

Überblick Beiträge zu zwei beliebten C/C++ KI-Modell-Implementierungen: Llama.cpp für große Sprachmodelle und Whisper.cpp für Spracherkennung. Llama.cpp Llama.cpp ist eine hochperformante C/C++-Implementierung zum effizienten Ausführen von LLaMA-Modellen auf Consumer-Hardware. Beiträge Verbesserung der Build-System-Kompatibilität Dokumentationsverbesserungen Bugfixes und Tests Whisper.cpp Whisper.cpp ist eine C/C++-Portierung von OpenAIs Whisper-Spracherkennungsmodell. Beiträge Build-System-Verbesserungen Dokumentationserweiterungen Cross-Platform-Kompatibilitätsfixes Wirkung Diese Projekte ermöglichen das lokale Ausführen modernster KI-Modelle ohne teure GPU-Hardware oder Cloud-Dienste und demokratisieren den Zugang zu KI-Technologie. Links Llama.cpp GitHub Whisper.cpp GitHub