আমি অপারেটিং সিস্টেমের ডেভেলপারদের একজন এমবক্স, এবং এই নিবন্ধে আমি STM32746G বোর্ডে ওপেনসিভি চালানোর জন্য কীভাবে পরিচালনা করেছি সে সম্পর্কে কথা বলব।

আপনি যদি একটি সার্চ ইঞ্জিনে "STM32 বোর্ডে OpenCV" এর মতো কিছু টাইপ করেন, তাহলে আপনি বেশ কিছু লোক খুঁজে পেতে পারেন যারা STM32 বোর্ড বা অন্যান্য মাইক্রোকন্ট্রোলারে এই লাইব্রেরিটি ব্যবহার করতে আগ্রহী৷
এমন বেশ কয়েকটি ভিডিও রয়েছে যা নাম অনুসারে বিচার করে, যা প্রয়োজন তা প্রদর্শন করা উচিত, তবে সাধারণত (আমি যে সমস্ত ভিডিও দেখেছি) STM32 বোর্ডে, শুধুমাত্র ক্যামেরা থেকে চিত্রটি প্রাপ্ত হয়েছিল এবং ফলাফলটি স্ক্রিনে প্রদর্শিত হয়েছিল, এবং ইমেজ প্রসেসিং নিজেই হয় একটি নিয়মিত কম্পিউটারে, বা আরও শক্তিশালী বোর্ডে (উদাহরণস্বরূপ, রাস্পবেরি পাই)।

কেন এটা কঠিন?

সার্চ কোয়েরির জনপ্রিয়তা ব্যাখ্যা করা হয়েছে যে OpenCV হল সবচেয়ে জনপ্রিয় কম্পিউটার ভিশন লাইব্রেরি, যার মানে আরও বেশি ডেভেলপাররা এটির সাথে পরিচিত, এবং মাইক্রোকন্ট্রোলারে ডেস্কটপ-রেডি কোড চালানোর ক্ষমতা বিকাশ প্রক্রিয়াটিকে ব্যাপকভাবে সহজ করে। কিন্তু কেন এখনও এই সমস্যা সমাধানের জন্য কোন জনপ্রিয় রেডিমেড রেসিপি নেই?

ছোট শালগুলিতে OpenCV ব্যবহার করার সমস্যা দুটি বৈশিষ্ট্যের সাথে সম্পর্কিত:

• আপনি যদি মডিউলগুলির একটি ন্যূনতম সেট দিয়েও লাইব্রেরিটি সংকলন করেন, তবে এটি একটি খুব বড় কোড (অনেক মেগাবাইট নির্দেশাবলী) এর কারণে একই STM32F7Discovery (এমনকি OS বিবেচনা না করেও) এর ফ্ল্যাশ মেমরিতে ফিট হবে না।
• লাইব্রেরি নিজেই C++ এ লেখা, যার মানে
  • ইতিবাচক রানটাইমের জন্য সমর্থন প্রয়োজন (ব্যতিক্রম, ইত্যাদি)
  • LibC/Posix-এর জন্য সামান্য সমর্থন, যা সাধারণত এমবেডেড সিস্টেমের জন্য OS-তে পাওয়া যায় - আপনার একটি স্ট্যান্ডার্ড প্লাস লাইব্রেরি এবং একটি স্ট্যান্ডার্ড STL টেমপ্লেট লাইব্রেরি (ভেক্টর, ইত্যাদি) প্রয়োজন।

এমবক্সে পোর্ট করা হচ্ছে

যথারীতি, অপারেটিং সিস্টেমে কোনো প্রোগ্রাম পোর্ট করার আগে, ডেভেলপাররা যে ফর্মে এটি তৈরি করতে চেয়েছিলেন সেটি তৈরি করার চেষ্টা করা একটি ভাল ধারণা। আমাদের ক্ষেত্রে, এতে কোন সমস্যা নেই - সোর্স কোডটি পাওয়া যাবে github, লাইব্রেরিটি GNU/Linux-এর অধীনে সাধারণ cmake দিয়ে তৈরি করা হয়েছে।

ভাল খবর হল যে OpenCV বাক্সের বাইরে একটি স্ট্যাটিক লাইব্রেরি হিসাবে তৈরি করা যেতে পারে, যা পোর্টিংকে সহজ করে তোলে। আমরা একটি স্ট্যান্ডার্ড কনফিগারেশন সহ একটি লাইব্রেরি সংগ্রহ করি এবং দেখি তারা কতটা জায়গা নেয়। প্রতিটি মডিউল আলাদা লাইব্রেরিতে সংগ্রহ করা হয়।

> size lib/*so --totals
   text    data     bss     dec     hex filename
1945822   15431     960 1962213  1df0e5 lib/libopencv_calib3d.so
17081885     170312   25640 17277837    107a38d lib/libopencv_core.so
10928229     137640   20192 11086061     a928ed lib/libopencv_dnn.so
 842311   25680    1968  869959   d4647 lib/libopencv_features2d.so
 423660    8552     184  432396   6990c lib/libopencv_flann.so
8034733   54872    1416 8091021  7b758d lib/libopencv_gapi.so
  90741    3452     304   94497   17121 lib/libopencv_highgui.so
6338414   53152     968 6392534  618ad6 lib/libopencv_imgcodecs.so
21323564     155912  652056 22131532    151b34c lib/libopencv_imgproc.so
 724323   12176     376  736875   b3e6b lib/libopencv_ml.so
 429036    6864     464  436364   6a88c lib/libopencv_objdetect.so
6866973   50176    1064 6918213  699045 lib/libopencv_photo.so
 698531   13640     160  712331   ade8b lib/libopencv_stitching.so
 466295    6688     168  473151   7383f lib/libopencv_video.so
 315858    6972   11576  334406   51a46 lib/libopencv_videoio.so
76510375     721519  717496 77949390    4a569ce (TOTALS)

আপনি শেষ লাইন থেকে দেখতে পাচ্ছেন, .bss এবং .data বেশি জায়গা নেয় না, কিন্তু কোডটি 70 MiB-এর বেশি। এটা স্পষ্ট যে যদি এটি একটি নির্দিষ্ট অ্যাপ্লিকেশনের সাথে স্ট্যাটিকভাবে লিঙ্ক করা হয়, তাহলে কোডটি কম হয়ে যাবে।

আসুন যতটা সম্ভব মডিউলগুলি ফেলে দেওয়ার চেষ্টা করি যাতে একটি ন্যূনতম উদাহরণ একত্রিত হয় (যা, উদাহরণস্বরূপ, কেবল OpenCV সংস্করণটি আউটপুট করবে), তাই আমরা তাকাই cmake .. -LA এবং অপশনে সব বন্ধ করে দিন।

        -DBUILD_opencv_java_bindings_generator=OFF 
        -DBUILD_opencv_stitching=OFF 
        -DWITH_PROTOBUF=OFF 
        -DWITH_PTHREADS_PF=OFF 
        -DWITH_QUIRC=OFF 
        -DWITH_TIFF=OFF 
        -DWITH_V4L=OFF 
        -DWITH_VTK=OFF 
        -DWITH_WEBP=OFF 
        <...>

> size lib/libopencv_core.a --totals
   text    data     bss     dec     hex filename
3317069   36425   17987 3371481  3371d9 (TOTALS)

একদিকে, এটি লাইব্রেরির শুধুমাত্র একটি মডিউল, অন্যদিকে, এটি কোড আকারের জন্য কম্পাইলার অপ্টিমাইজেশন ছাড়াই (-Os) কোডের ~3 MiB এখনও অনেক, কিন্তু ইতিমধ্যে সাফল্যের আশা দেয়।

এমুলেটরে চালান

এমুলেটরে ডিবাগ করা অনেক সহজ, তাই প্রথমে নিশ্চিত করুন যে লাইব্রেরিটি কিউমুতে কাজ করে। একটি অনুকরণীয় প্ল্যাটফর্ম হিসাবে, আমি ইন্টিগ্রেটর/সিপি বেছে নিয়েছি, কারণ প্রথমত, এটি এআরএম এবং দ্বিতীয়ত, এমবক্স এই প্ল্যাটফর্মের জন্য গ্রাফিক্স আউটপুট সমর্থন করে।

এমবক্সের বাহ্যিক লাইব্রেরি তৈরির জন্য একটি প্রক্রিয়া রয়েছে, এটি ব্যবহার করে আমরা একটি মডিউল হিসাবে OpenCV যুক্ত করি (স্ট্যাটিক লাইব্রেরি আকারে "ন্যূনতম" বিল্ডের জন্য একই বিকল্পগুলি পাস করে), তারপরে আমি একটি সাধারণ অ্যাপ্লিকেশন যুক্ত করি যা দেখতে এইরকম:

version.cpp:

#include <stdio.h>
#include <opencv2/core/utility.hpp>

int main() {
    printf("OpenCV: %s", cv::getBuildInformation().c_str());

    return 0;
}

আমরা সিস্টেমকে একত্রিত করি, এটি চালাই - আমরা প্রত্যাশিত আউটপুট পাই।

root@embox:/#opencv_version                                                     
OpenCV: 
General configuration for OpenCV 4.0.1 =====================================
  Version control:               bd6927bdf-dirty

  Platform:
    Timestamp:                   2019-06-21T10:02:18Z
    Host:                        Linux 5.1.7-arch1-1-ARCH x86_64
    Target:                      Generic arm-unknown-none
    CMake:                       3.14.5
    CMake generator:             Unix Makefiles
    CMake build tool:            /usr/bin/make
    Configuration:               Debug

  CPU/HW features:
    Baseline:
      requested:                 DETECT
      disabled:                  VFPV3 NEON

  C/C++:
    Built as dynamic libs?:      NO
< Дальше идут прочие параметры сборки -- с какими флагами компилировалось,
  какие модули OpenCV включены в сборку и т.п.>

পরবর্তী পদক্ষেপটি হল কিছু উদাহরণ চালানো, বিশেষত ডেভেলপারদের দ্বারা প্রদত্ত আদর্শগুলির মধ্যে একটি। আপনার সাইটে. আমি পছন্দ করেছিলাম বর্ডার ডিটেক্টর ক্যানি.

সরাসরি ফ্রেম বাফারে ফলাফল সহ চিত্রটি প্রদর্শন করার জন্য উদাহরণটি সামান্য পুনরায় লিখতে হয়েছিল। আমাকে এটা করতে হয়েছিল, কারণ. ফাংশন imshow() QT, GTK এবং Windows ইন্টারফেসের মাধ্যমে ছবি আঁকতে পারে, যা অবশ্যই STM32-এর কনফিগারে থাকবে না। প্রকৃতপক্ষে, QT STM32F7Discovery-এও চালানো যেতে পারে, তবে এটি অন্য নিবন্ধে আলোচনা করা হবে 🙂

প্রান্ত ডিটেক্টরের ফলাফল কোন বিন্যাসে সংরক্ষিত হয় তা একটি সংক্ষিপ্ত ব্যাখ্যার পরে, আমরা একটি চিত্র পাই।

মূল ছবি

ফল

STM32F7Discovery-এ চলছে

32F746GDISCOVERY-এ বেশ কয়েকটি হার্ডওয়্যার মেমরি বিভাগ রয়েছে যা আমরা এক বা অন্য উপায়ে ব্যবহার করতে পারি

1. 320KiB RAM
2. ছবির জন্য 1MiB ফ্ল্যাশ
3. 8MiB SDRAM
4. 16MiB QSPI NAND ফ্ল্যাশ
5. মাইক্রোএসডি কার্ড স্লট

একটি SD কার্ড ইমেজ সংরক্ষণ করতে ব্যবহার করা যেতে পারে, কিন্তু একটি ন্যূনতম উদাহরণ চালানোর প্রসঙ্গে, এটি খুব দরকারী নয়।
ডিসপ্লেটির রেজোলিউশন 480×272, যার অর্থ হল ফ্রেমবাফার মেমরি 522 বিটের গভীরতায় 240 বাইট হবে, অর্থাৎ এটি RAM এর আকারের চেয়ে বেশি, তাই ফ্রেমবাফার এবং হিপ (যার প্রয়োজন হবে, OpenCV সহ, ইমেজ এবং অক্জিলিয়ারী স্ট্রাকচারের জন্য ডেটা সঞ্চয় করার জন্য) SDRAM-এ অবস্থিত হবে, বাকি সবকিছু (স্ট্যাকের জন্য মেমরি এবং অন্যান্য সিস্টেমের প্রয়োজন) ) RAM এ যাবে।

আমরা যদি STM32F7Discovery-এর জন্য ন্যূনতম কনফিগার করি (সম্পূর্ণ নেটওয়ার্ক, সমস্ত কমান্ড, স্ট্যাক যতটা সম্ভব ছোট করুন, ইত্যাদি) এবং সেখানে উদাহরণ সহ OpenCV যোগ করি, প্রয়োজনীয় মেমরিটি নিম্নরূপ হবে:

   text    data     bss     dec     hex filename
2876890  459208  312736 3648834  37ad42 build/base/bin/embox

যারা খুব পরিচিত নন কোন বিভাগগুলি কোথায় যায়, আমি ব্যাখ্যা করব: ইন .text и .rodata নির্দেশাবলী এবং ধ্রুবকগুলি (মোটামুটিভাবে বলতে গেলে, শুধুমাত্র পঠনযোগ্য ডেটা) রয়েছে৷ .data তথ্য পরিবর্তনযোগ্য, .bss সেখানে "nulled" ভেরিয়েবল আছে, যেগুলোর জন্য একটি জায়গা প্রয়োজন (এই বিভাগটি RAM-তে "যাবে")।

ভাল খবর হল .data/.bss মাপসই করা উচিত, কিন্তু সঙ্গে .text সমস্যা হল যে ইমেজের জন্য শুধুমাত্র 1MiB মেমরি আছে। বের করে দেওয়া যায় .text উদাহরণ থেকে ছবিটি পড়ুন এবং এটি পড়ুন, উদাহরণস্বরূপ, স্টার্টআপের সময় SD কার্ড থেকে মেমরিতে, কিন্তু fruits.png এর ওজন প্রায় 330KiB, তাই এটি সমস্যার সমাধান করবে না: বেশিরভাগ .text OpenCV কোড নিয়ে গঠিত।

সাধারণভাবে, শুধুমাত্র একটি জিনিস বাকি আছে - কোডের একটি অংশ একটি QSPI ফ্ল্যাশে লোড করা (এটি সিস্টেম বাসে মেমরি ম্যাপ করার জন্য অপারেশনের একটি বিশেষ মোড রয়েছে, যাতে প্রসেসর সরাসরি এই ডেটা অ্যাক্সেস করতে পারে)। এই ক্ষেত্রে, একটি সমস্যা দেখা দেয়: প্রথমত, ডিভাইসটি রিবুট করার সাথে সাথে একটি QSPI ফ্ল্যাশ ড্রাইভের মেমরি পাওয়া যায় না (আপনাকে আলাদাভাবে মেমরি-ম্যাপড মোড শুরু করতে হবে), এবং দ্বিতীয়ত, আপনি এই মেমরিটিকে "ফ্ল্যাশ" করতে পারবেন না। একটি পরিচিত বুটলোডার।

ফলস্বরূপ, QSPI-তে সমস্ত কোড লিঙ্ক করার সিদ্ধান্ত নেওয়া হয়েছিল, এবং এটি একটি স্ব-লিখিত লোডার দিয়ে ফ্ল্যাশ করা হয়েছিল যা TFTP-এর মাধ্যমে প্রয়োজনীয় বাইনারি গ্রহণ করবে।

ফল

এই লাইব্রেরিটি এমবক্সে পোর্ট করার ধারণাটি প্রায় এক বছর আগে প্রকাশিত হয়েছিল, কিন্তু বারবার এটি বিভিন্ন কারণে স্থগিত করা হয়েছিল। তাদের মধ্যে একটি হল libstdc++ এবং স্ট্যান্ডার্ড টেমপ্লেট লাইব্রেরির জন্য সমর্থন। এমবক্সে C++ সমর্থনের সমস্যাটি এই নিবন্ধের সুযোগের বাইরে, তাই এখানে আমি শুধু বলব যে আমরা এই লাইব্রেরির কাজ করার জন্য সঠিক পরিমাণে এই সমর্থনটি অর্জন করতে পেরেছি 🙂

শেষ পর্যন্ত, এই সমস্যাগুলি কাটিয়ে উঠল (অন্তত ওপেনসিভি উদাহরণের কাজ করার জন্য যথেষ্ট), এবং উদাহরণটি চলে গেল। ক্যানি ফিল্টার ব্যবহার করে সীমানা অনুসন্ধান করতে বোর্ডের জন্য 40 দীর্ঘ সেকেন্ড সময় লাগে। এটি, অবশ্যই, খুব দীর্ঘ (এই বিষয়টিকে কীভাবে অপ্টিমাইজ করা যায় সে সম্পর্কে বিবেচনা রয়েছে, সাফল্যের ক্ষেত্রে এটি সম্পর্কে একটি পৃথক নিবন্ধ লেখা সম্ভব হবে)।

যাইহোক, মধ্যবর্তী লক্ষ্য ছিল একটি প্রোটোটাইপ তৈরি করা যা যথাক্রমে STM32-তে OpenCV চালানোর মৌলিক সম্ভাবনা দেখাবে, এই লক্ষ্যটি অর্জিত হয়েছে, হুররে!

tl;dr: ধাপে ধাপে নির্দেশাবলী

0: এমবক্স উত্স ডাউনলোড করুন, এইরকম:

    git clone https://github.com/embox/embox && cd ./embox

1: আসুন একটি বুটলোডার একত্রিত করে শুরু করি যা একটি QSPI ফ্ল্যাশ ড্রাইভকে "ফ্ল্যাশ" করবে।

    make confload-arm/stm32f7cube

এখন আপনাকে নেটওয়ার্ক কনফিগার করতে হবে, কারণ. আমরা TFTP এর মাধ্যমে ছবিটি আপলোড করব। বোর্ড এবং হোস্ট আইপি ঠিকানা সেট করতে, আপনাকে conf/rootfs/network সম্পাদনা করতে হবে।

কনফিগারেশন উদাহরণ:

iface eth0 inet static
    address 192.168.2.2
    netmask 255.255.255.0
    gateway 192.168.2.1
    hwaddress aa:bb:cc:dd:ee:02

gateway - হোস্ট ঠিকানা যেখান থেকে ছবিটি লোড করা হবে, address - বোর্ডের ঠিকানা।

এর পরে, আমরা বুটলোডার সংগ্রহ করি:

    make

2: বোর্ডে বুটলোডারের স্বাভাবিক লোডিং (শ্লেষের জন্য দুঃখিত) - এখানে নির্দিষ্ট কিছু নেই, আপনাকে STM32F7Discovery-এর জন্য অন্য যেকোনো অ্যাপ্লিকেশনের মতো এটি করতে হবে। আপনি এটি কিভাবে করতে জানেন না, আপনি এটি সম্পর্কে পড়তে পারেন এখানে.
3: OpenCV-এর জন্য একটি কনফিগারেশন সহ একটি চিত্র কম্পাইল করা।

    make confload-platform/opencv/stm32f7discovery
    make

4: ELF বিভাগ থেকে নির্যাস QSPI-এ qspi.bin-এ লিখতে হবে

    arm-none-eabi-objcopy -O binary build/base/bin/embox build/base/bin/qspi.bin 
        --only-section=.text --only-section=.rodata 
        --only-section='.ARM.ex*' 
        --only-section=.data

conf ডিরেক্টরিতে একটি স্ক্রিপ্ট আছে যা এটি করে, তাই আপনি এটি চালাতে পারেন

    ./conf/qspi_objcopy.sh # Нужный бинарник -- build/base/bin/qspi.bin

5: tftp ব্যবহার করে, একটি QSPI ফ্ল্যাশ ড্রাইভে qspi.bin.bin ডাউনলোড করুন। হোস্টে, এটি করার জন্য, tftp সার্ভারের রুট ফোল্ডারে qspi.bin কপি করুন (সাধারণত /srv/tftp/ বা /var/lib/tftpboot/; সংশ্লিষ্ট সার্ভারের জন্য প্যাকেজগুলি সর্বাধিক জনপ্রিয় ডিস্ট্রিবিউশনে পাওয়া যায়, সাধারণত বলা হয় tftpd বা tftp-hpa, কখনও কখনও আপনাকে করতে হবে systemctl start tftpd.service শুরুতেই).

    # вариант для tftpd
    sudo cp build/base/bin/qspi.bin /srv/tftp
    # вариант для tftp-hpa
    sudo cp build/base/bin/qspi.bin /var/lib/tftpboot

এমবক্সে (অর্থাৎ বুটলোডারে), আপনাকে নিম্নলিখিত কমান্ডটি চালাতে হবে (আমরা ধরে নিই যে সার্ভারটির ঠিকানা 192.168.2.1 আছে):

    embox> qspi_loader qspi.bin 192.168.2.1

6: কমান্ড সহ goto আপনাকে QSPI মেমরিতে "জাম্প" করতে হবে। চিত্রটি কীভাবে লিঙ্ক করা হয়েছে তার উপর নির্ভর করে নির্দিষ্ট অবস্থানটি পরিবর্তিত হবে, আপনি কমান্ডের সাথে এই ঠিকানাটি দেখতে পারেন mem 0x90000000 (শুরু ঠিকানাটি চিত্রের দ্বিতীয় 32-বিট শব্দের সাথে ফিট করে); আপনাকে স্ট্যাক ফ্ল্যাগ করতে হবে -s, স্ট্যাক ঠিকানা 0x90000000 এ, উদাহরণ:

    embox>mem 0x90000000
    0x90000000:     0x20023200  0x9000c27f  0x9000c275  0x9000c275
                      ↑           ↑
              это адрес    это  адрес 
                стэка        первой
                           инструкции

    embox>goto -i 0x9000c27f -s 0x20023200 # Флаг -i нужен чтобы запретить прерывания во время инициализации системы

    < Начиная отсюда будет вывод не загрузчика, а образа с OpenCV >

7: লঞ্চ

    embox> edges 20

এবং 40-সেকেন্ডের বর্ডার সার্চ উপভোগ করুন 🙂

কিছু ভুল হলে - একটি সমস্যা লিখুন আমাদের সংগ্রহস্থল, অথবা মেইলিং তালিকায় [ইমেল সুরক্ষিত], অথবা এখানে একটি মন্তব্য.

উত্স: www.habr.com