LLM630 컴퓨팅 키트

개요

LLM630 컴퓨트 키트는 엣지 컴퓨팅 및 지능형 상호작용 애플리케이션을 위해 설계된 AI 대규모 언어 모델 추론 개발 플랫폼입니다. 이 키트의 메인보드에는 630 TOPs@INT3.2 컴퓨팅 파워를 갖춘 고효율 NPU를 통합한 Aixin AX8C SoC 프로세서가 장착되어 복잡한 비전(CV) 및 대규모 언어 모델(LLM) 작업을 효율적으로 실행하는 강력한 AI 추론 기능을 제공하여 다양한 지능형 애플리케이션 시나리오의 요구를 충족합니다. 또한, 메인보드에는 JL2101-N040C 기가비트 이더넷 칩과 Wi-Fi 32@6G를 지원하는 ESP6-C2.4 무선 통신 칩이 장착되어 있으며, 이는 장치의 네트워크 카드로 사용되어 고속 데이터 전송 기능을 제공하고 Wi-Fi 및 이더넷 브리징 기능을 구현합니다. 대규모 데이터 교환을 위한 유선 연결이든, 원격 서버 또는 기타 스마트 기기와의 실시간 상호작용을 위한 무선 통신이든, 이 플랫폼은 효율적인 데이터 상호작용을 보장합니다. 메인보드는 SMA 안테나 인터페이스를 통합하여 무선 신호 안정성과 전송 거리를 더욱 향상시켜 복잡한 네트워크 환경에서도 안정적인 통신을 보장합니다. 4GB LPDDR4 메모리(사용자용 2GB, 하드웨어 가속 전용 2GB)와 32GB eMMC 스토리지를 내장하여 여러 모델의 병렬 로딩 및 추론을 지원하여 효율적이고 원활한 작업 처리를 보장합니다.
메인보드를 완벽하게 보완하는 베이스보드는 LLM630 컴퓨팅 키트의 기능과 적용 범위를 크게 확장합니다. BMI270 4150축 센서가 통합되어 다양한 동적 애플리케이션에 적합한 정밀한 자세 감지 및 동작 감지 기능을 제공합니다. 내장된 NSXNUMXB 클래스 D amp라이저, 마이크 및 스피커 인터페이스는 고품질 음성 입력 및 오디오 출력을 지원하여 전이중 통신 모드를 구현하고 사용자 상호작용 경험을 향상시킵니다. 베이스보드는 또한 듀얼 Grove 인터페이스와 LCD/DSI 및 CAM/CSI MIPI 인터페이스를 갖추고 있어 디스플레이 및 카메라 모듈과 같은 주변 장치 확장을 용이하게 합니다. 또한, 베이스보드는 외부 안테나 인터페이스와 기가비트 이더넷 포트를 통합하여 유연한 네트워크 연결과 향상된 무선 성능을 제공합니다. 또한, 기기의 사용자 버튼을 통해 전원 켜기/끄기 및 모드 전환과 같은 기능을 사용할 수 있어 기기의 사용성과 상호작용성이 향상됩니다. 베이스보드의 충전 칩과 예비 배터리 소켓은 맞춤형 배터리 구성을 지원하여 외부 전원 없이도 플랫폼이 오랫동안 안정적으로 작동할 수 있도록 합니다. 내장 배터리 감지 칩은 배터리 상태를 실시간으로 모니터링합니다. MicroSD 카드 슬롯은 저장 공간 확장을 지원하며, 향후 AI 모델 업데이트 기능도 지원합니다. 듀얼 USB Type-C 인터페이스는 효율적인 데이터 전송을 지원할 뿐만 아니라 OTG 기능을 제공하여 기기 연결을 더욱 유연하게 만들고 데이터 교환 및 기기 연결의 효율성을 높여줍니다.
LLM630 컴퓨팅 키트는 StackFlow 프레임워크를 지원하여 개발자가 단 몇 줄의 코드만으로 엣지 지능형 애플리케이션을 쉽게 구현하고 다양한 AI 작업을 빠르게 시작할 수 있도록 합니다. 이 플랫폼은 시각 인식, 음성 인식, 텍스트 음성 변환(TTS), 웨이크워드 인식 등 다양한 AI 애플리케이션을 지원하고, 별도의 호출 또는 파이프라인 자동 흐름을 지원하여 개발을 용이하게 합니다. 또한 Yolo11 DepthAnything과 같은 비전 모델, InternVL2.5-1B와 같은 다중 모달 대형 모델, Qwen2.5-0.5/1.5B Llama3.2-1B와 같은 대형 언어 모델, 그리고 Whisper Melotts와 같은 음성 모델을 지원하고 최신 업데이트를 지원하며, 앞으로도 가장 발전된 인기 대형 모델들을 계속 지원하여 지능형 인식 및 분석을 강화하고 플랫폼이 기술 발전 및 커뮤니티 트렌드에 발맞출 수 있도록 할 것입니다. LLM630 컴퓨팅 키트는 보안 모니터링, 스마트 세일즈, 스마트 농업, 스마트 홈 제어, 대화형 로봇, 교육 등의 분야에 적합하며, 에지 인텔리전트 애플리케이션을 위한 강력한 컴퓨팅 기능과 유연한 확장성을 제공합니다.

1.1. LLM630 컴퓨팅 키트
1. 의사소통 능력

• 유선 네트워크: 고속 데이터 교환을 위한 JL2101-N040C 기가비트 이더넷 칩이 장착되어 있습니다.
• 무선 네트워크: Wi-Fi 32(6GHz) 및 BLE를 지원하는 ESP6-C2.4 칩을 통합하여 효율적인 무선 데이터 상호작용을 보장합니다.
• 브리지 기능: 이더넷과 Wi-Fi를 연결하여 다양한 네트워크 환경에서 데이터 전송을 용이하게 합니다.
• 외부 안테나 인터페이스: 외부 안테나용 SMA 커넥터로 무선 신호 안정성과 전송 범위를 향상시킵니다.

2. 프로세서 및 성능

• 주요 SoC: 듀얼 코어 Cortex-A630(53GHz)를 탑재한 AXERA의 AX1.2C.
• NPU(Neural Processing Unit): 3.2 TOPS@INT8(1.2T@FP16) 컴퓨팅 성능을 제공하여 AI 추론 작업(예: 컴퓨터 비전 및 대규모 언어 모델 추론)을 효율적으로 처리합니다.
• 다중 모델 병렬 처리: 강력한 처리 기능으로 여러 모델을 동시에 로드하고 실행할 수 있으므로 복잡한 에지 인텔리전스 시나리오에 이상적입니다.

3. 디스플레이 및 입력

• 센서: 동작 감지 및 자세 감지를 위한 통합 BMI270 XNUMX축 센서(가속도계 + 자이로스코프)
• 오디오:
  • NS4150B 클래스 D 내장 amp리퍼
  • 고품질 오디오 I/O 및 풀 듀플렉스 음성 통신을 위한 온보드 마이크 및 스피커 인터페이스
• 인터페이스:
  • 외부 디스플레이용 LCD/DSI(MIPI)
  • 카메라 모듈용 CAM/CSI(MIPI)
• 사용자 버튼: 전원 제어, 모드 전환 기능을 제공하며 장치 상호 작용성을 향상시킵니다.

4. 기억

• 숫양:
  • 총 4GB LPDDR4(사용자 시스템용 2GB, NPU 등 하드웨어 가속기 전용 2GB)
• 저장:
  • OS, AI 모델 및 애플리케이션 데이터를 위한 32GB eMMC
  • 확장된 저장 공간 및 향후 AI 모델 업데이트를 위한 MicroSD 카드 슬롯

5. 전원 관리

• 배터리 지원:
  • 사용자 정의 가능한 배터리 구성을 위한 온보드 충전 칩 및 배터리 커넥터
  • 전력 모니터링 칩은 실시간 배터리 상태 피드백을 제공합니다.
• 전원 공급 장치:
  • USB Type-C 전원 입력 지원
  • 외부 전원 없이 배터리 전원으로 장시간 작동 가능

6. GPIO 핀 및 프로그래밍 가능 인터페이스

• 확장 인터페이스:
  • 센서 및 주변 장치에 쉽게 연결할 수 있는 두 개의 Grove 포트
  • 디스플레이 및 카메라용 MIPI DSI/CSI 인터페이스
  • 고속 데이터 전송 및 OTG 기능을 위한 2개의 USB Type-C 포트로 연결성 향상
• 개발 및 프로그래밍:
  • M5Stack의 StackFlow 프레임워크와 호환되어 최소한의 코딩으로 신속한 엣지 AI 애플리케이션 개발이 가능합니다.
  • 시각, 음성, 텍스트 등에 대한 다양한 AI 알고리즘과 모델을 지원합니다.

7. 기타

• AI 모델 지원:
  • Yolo11, 비전용 DepthAnything, 멀티모달용 InternVL2.5-1B 및 대형 모델과 같은 사전 로드되거나 로드 가능한 모델
  • 언어 모델(Qwen2.5-0.5/1.5B, Llama3.2-1B 등) 및 음성을 위한 Whisper Melotts
  • 최신 AI 개발로 플랫폼을 최신 상태로 유지하기 위한 핫 업데이트 기능
• 응용 프로그램 시나리오:
  • 보안 감시, 스마트 소매, 스마트 농업, 스마트 홈 제어, 대화형 로봇, 교육 등에 적합합니다.
  • 광범위한 AIoT 사용 사례에 대해 강력한 컴퓨팅과 유연한 확장을 제공합니다.
• 장치 치수 및 무게: 다양한 애플리케이션에 쉽게 통합하고 빠르게 프로토타입을 제작할 수 있는 컴팩트한 폼 팩터입니다.

명세서

2.1. 사양

매개변수 및 사양	값
프로세서	AX6300 듀얼 Cortex A53 1.2GHz 최대 12. INT8에서 4 TOP, INT3.2에서 8 TOP
네트워크 프로세서	3.2TOP @ INT8
숫양	4GB LPDDR4(2GB 시스템 메모리 + 2GB 하드웨어 가속 전용 메모리)
전자멀티미디어	eMMC5 @ 1GB
유선 네트워크	IL2101B-N040C @ 1GbE
무선 네트워크	ESP32-C6 @ Wi-Fi6 2.4G
USB-UART	CH9102F @ USB-시리얼 포트
USB-OTG	USB 2.0 호스트 또는 장치
안테나 인터페이스	SMA 내부 구멍
오디오 인터페이스	MIC 및 SPK 헤더 5P @ 1.25mm
디스플레이 인터페이스	MIPI DSI lx 2Lane MAX 1080p 0 30fps 0 1.25mm
카메라 인터페이스	MIPI CSI lx 4Lane MAX 4K 0 30fps 0 1.25mm
추가 기능	저전력 제어를 위한 프로그래밍 가능한 RGB LED, 부저, 리셋 버튼
배터리 관리	1.25mm 사양 배터리 인터페이스 단자
배터리 인터페이스 단자	4개의 고속 코어리스 모터
호환 배터리 사양	3.7V 리튬 배터리(리튬 이온 또는 리튬 폴리머)
USB 인터페이스	2개의 Tvpe-C 인터페이스(데이터 전송, OTG 기능)
USB 전원 입력	5V 0 2A
그로브 인터페이스	PortA 헤더 4P 0 2.0mm(I2C) PortC 헤더 4P 0 2.0mm(UART)
스토리지 확장 인터페이스	마이크로 SD 카드 슬롯
외부 기능 인터페이스	FUNC 헤더 8P @ 1.25mm 시스템 웨이크업, 전원 관리, 외부 LED 제어, I2C 통신 등.
버튼	전원 켜기/끄기, 사용자 상호작용 및 재설정 기능을 위한 2개의 버튼
감지기	BMI270 0 6축
제조업체	(주)엠5스택테크놀로지

2.2. 모듈 크기

빠른 시작

3.1.유아테네

1. LLM630 컴퓨트 키트의 UART 인터페이스를 컴퓨터에 연결하세요. Putty와 같은 디버깅 도구를 사용하여 직렬 포트를 통해 장치 터미널에 로그인하여 디버깅 및 제어를 수행할 수 있습니다. (기본값: 115200bps 8N1, 기본 사용자 이름: root, 비밀번호: root)

3.2. 이더넷

1. LLM630 컴퓨팅 키트는 쉬운 네트워크 접근과 기능 디버깅을 위한 이더넷 인터페이스를 제공합니다.

3.3. 와이파이

1. LLM630 컴퓨트 키트는 Wi-Fi 칩으로 온보드 ESP32-C6를 탑재하여 무선 네트워크에 쉽게 연결할 수 있습니다.
   다음 단계에 따라 Wi-Fi를 활성화하고 연결을 설정하세요. 사용 전에 동봉된 SMA 외부 안테나를 설치하세요.

코어 구성

LLM630 컴퓨트 키트의 기본 네트워크 구성 도구는 ntmui입니다. nmtui 도구를 사용하면 Wi-Fi 연결을 쉽게 구성할 수 있습니다.

nmtui

FCC 경고

FCC 주의:
규정 준수에 책임이 있는 당사자의 명시적 승인을 받지 않은 변경이나 수정은 장비를 작동하는 사용자의 권한을 무효화할 수 있습니다.
이 장치는 FCC 규정 제15부를 준수합니다. 작동은 다음 두 가지 조건에 따릅니다. (1) 이 장치는 유해한 간섭을 일으키지 않아야 합니다. (2) 이 장치는 원치 않는 작동을 일으킬 수 있는 간섭을 포함하여 수신된 모든 간섭을 수용해야 합니다.

중요 참고 사항:
참고: 이 장비는 FCC 규정 제15부에 따라 클래스 B 디지털 기기에 대한 제한 사항을 준수하는 것으로 테스트 및 확인되었습니다. 이러한 제한 사항은 주거 시설에서 유해한 간섭으로부터 합리적인 보호를 제공하도록 설계되었습니다.
이 장비는 무선 주파수 에너지를 생성, 사용 및 방출할 수 있으며, 지침에 따라 설치 및 사용하지 않을 경우 무선 통신에 유해한 간섭을 일으킬 수 있습니다. 그러나 특정 설치에서 간섭이 발생하지 않을 것이라는 보장은 없습니다. 이 장비가 무선 또는 텔레비전 수신에 유해한 간섭을 일으키는 경우(장비를 끄고 켜서 확인할 수 있음) 사용자는 다음 조치 중 하나 이상을 통해 간섭을 수정하는 것이 좋습니다.

• 수신 안테나의 방향을 바꾸거나 위치를 바꾸세요.
• 장비와 수신기 사이의 거리를 넓힙니다.
• 수신기가 연결된 것과 다른 회로의 콘센트에 장비를 연결하세요.
• 도움이 필요하면 딜러나 숙련된 라디오/TV 기술자에게 문의하세요.

FCC 방사선 노출 규정: 이 장비는 통제되지 않은 환경에 대해 규정된 FCC 방사선 노출 제한을 준수합니다.

문서 / 리소스

M5STACK LLM630 컴퓨팅 키트 [PDF 파일] 사용자 매뉴얼 M5LLM630COMKIT, 2AN3WM5LLM630COMKIT, LLM630 컴퓨팅 키트, LLM630, 컴퓨팅 키트, 키트

참고문헌

• 사용자 설명서