jentsch.io Beiträge

Die Erstellung von JavaDoc-Dokumentation ist ein oft vernachlässigter Bestandteil der Softwareentwicklung. Eine gute JavaDoc Dokumentation ermöglicht eine bessere Zusammenarbeit im Team, eine klarere und verständlichere Codebasis und kann auch bei der Realisierung eines KI basierten Code-Assistenten helfen (dazu aber in einem anderen Beitrag mehr). Hier werde ich mich damit befassen, wie ein Large Language Model (LLM) bei der Erstellung von JavaDoc-Dokumentation behilflich sein kann. Dabei werde ich verschiedene Modelle miteinander verglichen, um ihre Vor- und Nachteile zu beleuchten. Was ist JavaDoc? JavaDoc ist ein Tool, das Teil des Java Development Kits (JDK) ist. Es ermöglicht Entwicklern, automatisch eine Dokumentation aus dem Java-Quellcode zu generieren. Durch die Hinzufügung von speziellen Kommentaren (tags) im Code können Entwickler die Struktur ihrer Software dokumentieren,…

LangChain ist ein Open Source Python (und wohl auch JavaScript) Framework, das die Erstellung von Anwendungen mit großen Sprachmodellen (LLMs) vereinfachen soll. https://python.langchain.com/ Möchte man z.B. einen RAG (Retrieval-Augmented Generation) Anwendung mit einem Huggingface Model erstellen, kann einem die LangChain Bibliothek eine Menge Arbeit abnehmen. Neo4j Vektor Index erstellen und verwenden Neo4j ist eine Open-Source-Graph Datenbank mit integrierter Unterstützung für Vector-Similarity-Search. Damit ist es möglich, in einer Vektor Datenbank nach Vektoren (Embedding) zu suchen, die dem Suchvektor am ähnlichsten sind. Verfügt man uber einen Index mit sehr vielen Embeddings kann man z.B. den Prompt in ein Embedding-Vektor umwandeln und die Relevanten Texte aus dem Vektor-Index selektieren und einem LLM als Kontext mitgeben. Details dazu habe ich schon einem hier behandelt.…

Base_model: deepseek-ai/deepseek-coder-1.3b-instructTraining_data: javadoc_v0.3.json (363MB Javadoc Dataset) LORA Finetuning trainable params: 3,145,728all params: 1,349,617,664trainable%: 0.2330829007288393

Wird der Milk-V Duo über USB mit dem PC verbunden, kann man über einen USB-RNDIS Netzwerkadapter darauf zugreifen. IP 192.168.42.1 Die IP-Adresse des Milk-V Duo ist immer 192.168.42.1. Um diese IP-Adresse zu ändern, muss die Wunsch-IP-Adresse in die folgenden Dateien eingetragen werden. IP-Adresse ändern Zum Ändern der IP-Adresse meldet man sich per ssh auf dem Milk-V Duo an. Nun öffnet man die Datei /mnt/system/usb-rndis.sh mit einem Editor. Z.B. mit dem vi Editor. und ändert die IP-Adresse z.B. auf 192.168.43.1. Die gleiche IP-Adresse wird auch in der Datei /mnt/system/usb.sh eingetragen. Der Befehl „ifconfig usb0 192.168.42.1“ wird dazu verwendet, um die IP-Adresse des Netzwerkinterfaces usb0 auf 192.168.42.1 zu setzen. In der /etc/dnsmasq.conf sieht der geänderte Eintrag dann wie folgt aus. Die Datei…

Base_model: TheBloke/CodeLlama-7B-Instruct-fp16Training_data: javadoc_v0.1.json (1.3GB Apache Commons Javadoc Dataset) 20 Tage auf dem Jetson Orin 64GB über 2000 Steps trainiert. Training Loss Validation Loss Der 1te Versuch war erfolgreich. 🙂 Bleibt noch zu testen ob die Ergebnisse wirklich so gut sind …..

Mary Mesaglio, Gartner Distinguished VP Analyst, und Don Scheibenreif, Gartner Distinguished VP Analyst, geben Einblicke in die wichtigsten Erkenntnisse, die CIOs helfen, in dieser neuen Ära der Mensch-Maschine-Beziehungen und KI die Nase vorn zu haben. Die Keynote des Gartner IT Symposium/Xpo behandelt die Bedeutung von Künstlicher Intelligenz (KI) in der heutigen Zeit und wie diese neue Beziehung zwischen Menschen und Maschine uns prägt. Mary Mesaglio und Don Scheibenreif betonen, dass KI nicht nur eine Technologie ist, sondern einen tiefgreifenden Wandel in der Interaktion zwischen Mensch und Maschine darstellt. Das Video könnte man in die Liste der 11 Videos über AI die man gesehen haben sollte aufnehmen, aber dann währen es ja kein 11 mehr :-).

Milk-V Duo ist eine ultrakompakte Embedded-Entwicklungsplattform auf der Basis des CV1800B-Chips. Sie kann Linux und RTOS ausführen und bietet eine zuverlässige, kostengünstige und leistungsstarke Plattform für Profis, industrielle ODMs, IoT-Enthusiasten, Heimwerker und Entwickler. Spezifikation Milk-V Duo Specification Prozessor CVITEK CV1800B (C906@1Ghz + C906@700MHz) RAM DDR2 64MB Flash 1x Mirco SD slot,1x SD NAND solder pad USB 1x Type-C for data and Power,1x USB2 solder pad Kamera 1x 16P FPC connector (MIPI CSI 2-lane) GPIO up to 26 Pins available for general purpose I/O（GPIO） Größe 21mm*51mm Details:https://milkv.io/docs/duo/overview Größe Hier mal ein Größenvergleich des Milk-V & Cam mit meiner Logitech Maus. Shop https://arace.tech/search?q=Milk-V+Duo&type=product https://milkv.io/ Ich habe mal direkt zugeschlagen und mich mal eingedeckt. Ein erster Test zeigt, dass der Energiebedarf mit ca.…

Base_model: TheBloke/CodeLlama-13B-Instruct-fp16Training_data: javadoc_v0.1.json (1.3GB Apache Commons Javadoc Dataset) Training Loss Validation Loss Der 4te Versuch war erfolgreich.

Künstliche Intelligenz wird zu einem immer relevanteren Thema, das die Welt im Sturm erobert. Von bahnbrechenden wissenschaftlichen Fortschritten bis hin zu erstaunlichen Anwendungen in unserem täglichen Leben hat AI das Potenzial, die Grenzen des Menschlichen zu erweitern und die Zukunft unserer Gesellschaft zu gestalten. In diesem Blog-Beitrag stelle ich eine Liste von zehn Videos vor, die mich in den letzten Wochen und Monaten motiviert haben, mich noch tiefer in das Kaninchenloch zu begeben. Bei den Videos handelt es sich nicht um Technik-Videos zu diesen Themen, sondern eher um ganz allgemeine Videos, die man sich einfach mal in Ruhe ansehen sollte. Die Videos sind für Technologie-Enthusiasten, ein Entwickler, Unternehmer und Jeden, der Einblicke in die Welt der KI und ihrer faszinierenden…

Seit gestern besitze ich einen Jetson Orin 64GB. Als erstes habe ich mal getestet, wie gut die Performance der GPU ist. Dafür habe erst mal Tensorflow 2.9.1 mit GPU-Unterstützung installiert und einen Benchmark laufen lassen, den ich hier kopiert habe. Hier das Benchmark Skript das ich für meinen Test genutzt habe. Die folgenden System habe ich miteinander verglichen. Jetson Orin 64GB – Mode = MAX entry { name: „TensorFlowBenchmark.run_op_benchmark“ iters: 10 wall_time: 0.003049612045288086 extras { key: „allocator_maximum_num_bytes_GPU_0_bfc“ value { double_value: 12582912.0 } } extras { key: „allocator_maximum_num_bytes_gpu_host_bfc“ value { double_value: 8.0 } } } Google Colab T4 GPU entry { name: „TensorFlowBenchmark.run_op_benchmark“ iters: 10 wall_time: 0.001888871192932129 extras { key: „allocator_maximum_num_bytes_GPU_0_bfc“ value { double_value: 12582912.0 } } extras { key: „allocator_maximum_num_bytes_gpu_host_bfc“…