Linux ve yapay zeka geliştirme ortamı

Programlama
1

Merhaba arkadaşlar, bu benim ilk yazım. Bu toplulukta katkısı olan emeği geçen herkese teşekkürler.

Yeni nesil NPU’lu laptoplar ve oyun bilgisayarlarında örneğin Nvidia ekran kartlı güçlü bilgisayarlarda ve sunucularda yapay zeka geliştirme ile ilgili bir arayışım var.

Örneğin hangi frameworkler var gibi…

Ben de bir framework yazmaya niyetlendim.

Biraz bilgi alabilirsem derslerimi ona göre çalışacağım. C++ öğreniyorum. Assembly, C/C++ Python gibi dillerle kodlama yapabileceğimi düşünüyorum.

Görüş ve önerilerinize açığım.

Teşekkürler, iyi forumlar, iyi çalışmalar

2

Merhabalar aramıza hoşgeldin öncelikler

Sana şöyle küçük bi liste yaptım bakabilirsin. Framework olarak.

  • TensorFlow: Python ile yoğun bir şekilde kullanılsa da C++ API’si de mevcut. Özellikle Nvidia GPU’larla optimize edilmiş.
  • PyTorch: Python ağırlıklı olsa da C++ backend desteği sunuyor.
  • ONNX (Open Neural Network Exchange): Farklı framework’ler arasında model taşımak için bir standart. Özellikle birden çok platformda çalışacak uygulamalar için faydalı.
  • MXNet: Apache’nin açık kaynak framework’ü. Özellikle dağıtık yapılar ve GPU optimizasyonu konusunda güçlüdür.
  • Keras: Daha kullanıcı dostu bir API sağlayan bir üst katman, genellikle TensorFlow ile birlikte kullanılıyor.

Bunlara ek olarak :

  • Nvidia CUDA: Nvidia GPU’ların tam potansiyelini kullanmak için C++ ile doğrudan CUDA kodlama öğrenebilirsin.
  • Nvidia TensorRT: Modellerini optimize etmek ve performansı artırmak için kullanabileceğin bir araç.
  • NPU (Neural Processing Unit) Desteği: Yeni nesil donanımlarda yer alan bu birimler, yapay zeka işlemlerini hızlandırmak için tasarlanmı. Huawei Ascend veya Qualcomm AI Engine gibi platformları inceleyebilirsin.

Sevgiler
Eren Akkuş

1 Beğeni
3

Teşekkür ederim. Assembly C C++ Python ve genel olarak dilden bağımsız araştırma yapabiliyorum. Belirttiklerinizi araştıracağım

Görüşmek üzere

Mert Gör

1 Beğeni
4

Merhaba,

Ayrıca programlama dili olarak RUST ı da bir incelemeni öneririm C ve C++ dan geçiş yapmak daha kolay

5

Teşekkürler, Rust demişken aşağıdaki adresi vermek durumundayım.

https://github.com/buraksenyurt/rust-training

https://youtu.be/qbiAfQFNrUk?si=OZC0EQ2v0e0N1_7H

Teşekkürler, Rust da aklımda

6

Tekrar Merhaba arkadaşlar,

GNU Emacs hakkında ne düşünüyorsunuz ? Nasıl entegrasyon sağlanabilir ?

Teşekkürler.

7

Emacs’i C/C++ için ayarladım. Artık Emacs bir “IDE” … ne mutlu bana :slight_smile:

8

Linux üzerinde Aİ geliştirmek ve çalışmak istiyorsan donanım ve destekleri dikkate alman gerekiyor. Amd NPU notebook yada NVİDİA AMD kullanıyorsan kullanacağın frameworklerin yada kütüphanelerin distro tarafında sorunsuz çalışacağından emin ol. AMD tarafında ROCM, NVİDİA tarafında CUDA kütüphanelerini kullanarak istediğini yapabilirsin. Local LLM modelleriye çalışmak istersen OLLAMA VLLM LMStudio(tavsiyem) kullanarak modelleri local de yükleyebilir, huggingface üzerinde sana ilham verecek LLM modellerini bulabilirsin. ROCM kütüphanesi HIP SDK ve donanım desteği CUDA kütüphanelerine göre daha karışık RPM paket kullanan, Opensuse fedora yada Rocky üzerinde sorunsuz bir ortam oluşturabilirsin.
Hiç kafam karışmasın NPU ve GPU hızını işin içine katmayım dersen, Tensorflow, PyTorch, Keras gibi kütüphaneler C/C++ ve python ile kullanabilirsin ve distro bağımsız sorunsuz geliştirme yaparsın. İyi Çalışmalar

1 Beğeni
9

Teşekkürler, Debian veya Ubuntu ile gideceğim.