IOS上でYUV NV21形式のCVPixelBufferRefをopencv RGB形式のcv::Matに変換する方法

序文

ビジネス上のニーズにより、このような変換を行う必要があります。現在 2 つの変換メソッドが記述されています。

本物の iPhoneX で実行すると、1 つの方法は 24 ミリ秒のフレームを必要とし、CPU 使用率は 85% であり、もう 1 つの方法は 17 ミリ秒のフレームを必要とし、CPU 使用率は 140% です。以下で詳しく説明しましょう。

方法 1

変換のアイデアは、CVPixelBufferRef->UIImage->cv::Mat のルートです。

直接法:

まずはCVPixelBufferRef->UIImageのメソッド

- (UIImage*)uiImageFromPixelBuffer:(CVPixelBufferRef)p {
 
    CIImage* ciImage = [CIImage imageWithCVPixelBuffer : p];
 
    CIContext* context = [CIContext contextWithOptions : @{kCIContextUseSoftwareRenderer : @(YES)}];
 
    CGRect rect = CGRectMake(0, 0, CVPixelBufferGetWidth(p), CVPixelBufferGetHeight(p));
 
    CGImageRef videoImage = [context createCGImage : ciImage fromRect : rect];
 
    UIImage* image = [UIImage imageWithCGImage : videoImage];
 
    CGImageRelease(videoImage);
 
    return image;
}

次に、UIImage->cv::Matのメソッドがあります。

- (cv::Mat)cvMatFromUIImage:(UIImage *)image
{
  CGColorSpaceRef colorSpace = CGImageGetColorSpace(image.CGImage);
  CGFloat cols = image.size.width;
  CGFloat rows = image.size.height;
  cv::Mat cvMat(rows, cols, CV_8UC4); // 8 bits per component, 4 channels (color channels + alpha)
  CGContextRef contextRef = CGBitmapContextCreate(cvMat.data,                 // Pointer to  data
                                                 cols,                       // Width of bitmap
                                                 rows,                       // Height of bitmap
                                                 8,                          // Bits per component
                                                 cvMat.step[0],              // Bytes per row
                                                 colorSpace,                 // Colorspace
                                                 kCGImageAlphaNoneSkipLast |
                                                 kCGBitmapByteOrderDefault); // Bitmap info flags
  CGContextDrawImage(contextRef, CGRectMake(0, 0, cols, rows), image.CGImage);
  CGContextRelease(contextRef);
  return cvMat;
}

これら 2 つのメソッドを呼び出すときは、自動解放プールを追加する必要があります。追加しないと、メモリが爆発的に増加します。

この変換ルートは遅いですが、CPU 使用率は高くありません。

方法 2

変換のアイデアは CVPixelBufferRef->YUV cv::Mat->RGB cv::Mat です

最初の方法

- (cv::Mat)cvMatFromPixelBuffer:(CVPixelBufferRef)p
{
    CVPixelBufferLockBaseAddress(p, 0);
    unsigned char *base = (unsigned char *)CVPixelBufferGetBaseAddress(p);
    uint8_t *src_y = (unsigned char *)CVPixelBufferGetBaseAddressOfPlane(p, 0);
    uint8_t *src_uv =(unsigned char *) CVPixelBufferGetBaseAddressOfPlane(p, 1);
    int height = (int)CVPixelBufferGetHeight( p );
    int width = (int)CVPixelBufferGetWidth(p);
    cv::Mat yuvimg(height*3/2, width, CV_8UC1);
    for(int i=0; i<height*width; i++){
        *(yuvimg.data + i) = *(src_y + i);
    }
    int delta_h = height*3/2 - height;
    for(int i=0; i<delta_h; i++){
        for(int j=0; j<width; j++){
            *(yuvimg.data + (height + i)*width + j) = *(src_uv + i*width + j);
        }
    }
    //writeImage2Document("testim.jpg", yuvimg);
    cv::Mat rgbimg(height, width, CV_8UC4);
    cv::cvtColor(yuvimg, rgbimg, cv::COLOR_YUV2RGBA_NV21);
    //CVPixelBufferRef testimg = [self getImageBufferFromMat:rgbimg];
    CVPixelBufferUnlockBaseAddress( p, 0 );
  return rgbimg;
}

この方法では、opencv を直接使用して変換するため、速度は速くなりますが、CPU 使用率が高くなります。

さらに、YUV データは、CVPixelBufferGetBaseAddress のアドレスを直接取得して書き込むのではなく、Y と UV に対して個別に cv::Mat に書き込む必要があることに注意してください。理由はわかりませんが、CVPixelBufferGetBaseAddress のアドレスを直接取得すると、開始アドレスが文字化けし、画面全体が右に移動してしまいます。

それはやめてください~