HarmonyOS学习路之开发篇—多媒体开发（视频开发 一）

视频开发概述

HarmonyOS视频模块支持视频业务的开发和生态开放，开发者可以通过已开放的接口很容易地实现视频媒体的播放、操作和新功能开发。视频媒体的常见操作有视频编解码、视频合成、视频提取、视频播放以及视频录制等。

基本概念

• 编码

  编码是信息从一种形式或格式转换为另一种形式或格式的过程。用预先规定的方法将文字、数字或其他对象编成数码，或将信息、数据转换成规定的电脉冲信号。在本模块中，编码是指编码器将原始的视频信息压缩为另一种格式的过程。

• 解码

  解码是一种用特定方法，把数码还原成它所代表的内容或将电脉冲信号、光信号、无线电波等转换成它所代表的信息、数据等的过程。在本模块中，解码是指解码器将接收到的数据还原为视频信息的过程，与编码过程相对应。

• 帧率

  帧率是以帧为单位的位图图像连续出现在显示器上的频率（速率），以FPS（Frame per Second）为单位。

媒体编解码能力查询开发

场景介绍

媒体编解码能力查询主要指查询设备所支持的编解码器的MIME（Multipurpose Internet Mail Extensions，媒体类型）列表，并判断设备是否支持指定MIME对应的编码器/解码器。

接口说明

媒体编解码能力查询类CodecDescriptionList的主要接口

接口名	功能描述
getSupportedMimes()	获取某设备所支持的编解码器的MIME列表。
isDecodeSupportedByMime(String mime)	判断某设备是否支持指定MIME对应的解码器。
isEncodeSupportedByMime(String mime)	判断某设备是否支持指定MIME对应的编码器。
isDecoderSupportedByFormat(Format format)	判断某设备是否支持指定媒体格式对应的解码器。
isEncoderSupportedByFormat(Format format)	判断某设备是否支持指定媒体格式对应的编码器。

开发步骤

1. 调用CodecDescriptionList类的静态getSupportedMimes()方法，获取某设备所支持的编解码器的MIME列表。代码示例如下：

List<String> mimes = CodecDescriptionList.getSupportedMimes();

2. 调用CodecDescriptionList类的静态isDecodeSupportedByMime方法，判断某设备是否支持指定MIME对应的解码器，支持返回true，否则返回false。代码示例如下：

boolean result = CodecDescriptionList.isDecodeSupportedByMime(Format.VIDEO_VP9); 

3. 调用CodecDescriptionList类的静态isEncodeSupportedByMime方法，判断某设备是否支持指定MIME对应的编码器，支持返回true，否则返回false。代码示例如下：

boolean result = CodecDescriptionList.isEncodeSupportedByMime(Format.AUDIO_FLAC); 

4. 调用CodecDescriptionList类的静态isDecoderSupportedByFormat/isEncoderSupportedByFormat方法，判断某设备是否支持指定Format的编解码器，支持返回true，否则返回false。代码示例如下：

Format format = new Format();
format.putStringValue(Format.MIME, Format.VIDEO_AVC);        
format.putIntValue(Format.WIDTH, 2560);        
format.putIntValue(Format.HEIGHT, 1440);        
format.putIntValue(Format.FRAME_RATE, 30);        
format.putIntValue(Format.FRAME_INTERVAL, 1); 
boolean result = CodecDescriptionList.isDecoderSupportedByFormat(format); 
result = CodecDescriptionList.isEncoderSupportedByFormat(format); 

视频编解码开发

场景介绍

视频编解码的主要工作是将视频进行编码和解码。

接口说明

视频编解码类Codec的主要接口

接口名	功能描述
createDecoder()	创建解码器Codec实例。
createEncoder()	创建编码器Codec实例。
registerCodecListener(ICodecListener listener)	注册侦听器用来异步接收编码或解码后的数据。
setSource(Source source, TrackInfo trackInfo)	根据解码器的源轨道信息设置数据源，对于编码器trackInfo无效。
setSourceFormat(Format format)	编码器的管道模式下，设置编码器编码格式。
setCodecFormat(Format format)	普通模式设置编/解码器参数。
setVideoSurface(Surface surface)	设置解码器的Surface。
getAvailableBuffer(long timeout)	普通模式获取可用ByteBuffer。
writeBuffer(ByteBuffer buffer, BufferInfo info)	推送源数据给Codec。
getBufferFormat(ByteBuffer buffer)	获取输出Buffer数据格式。
start()	启动编/解码。
stop()	停止编/解码。
release()	释放所有资源。

普通模式开发步骤

在普通模式下进行编解码，应用必须持续地传输数据到Codec实例。

编码的具体开发步骤如下：

1. 创建编码Codec实例，可调用createEncoder()创建。

final Codec encoder = Codec.createEncoder();

2. 构造数据源格式，并设置给Codec实例，调用setCodecFormat()，代码示例如下：

Format fmt = new Format();
fmt.putStringValue(Format.MIME, Format.VIDEO_AVC);
fmt.putIntValue(Format.WIDTH, 1920);
fmt.putIntValue(Format.HEIGHT, 1080);
fmt.putIntValue(Format.BIT_RATE, 392000);
fmt.putIntValue(Format.FRAME_RATE, 30);
fmt.putIntValue(Format.FRAME_INTERVAL, 30); 
fmt.putIntValue(Format.COLOR_MODEL, 21);
encoder.setCodecFormat(fmt);

3. 如果需要编码过程中，检测是否读取到Buffer数据以及是否发生异常，可以构造ICodecListener，ICodecListener需要实现两个方法，实现读到Buffer数据时、编码发生异常时做相应的操作。举例中读到Buffer时，获取buffer的format格式，异常时抛出运行时异常，代码示例如下：

private HiLogLabel TAG = new HiLogLabel(HiLog.DEBUG, 0xD000500, "MainAblityTest");
Codec.ICodecListener listener = new Codec.ICodecListener() {
    @Override
    public void onReadBuffer(ByteBuffer byteBuffer, BufferInfo bufferInfo, int trackId) {
        Format fmt = codec.getBufferFormat(byteBuffer);
    }

    @Override
    public void onError(int errorCode, int act, int trackId) {
        HiLog.error(TAG, "CodeListener onError errorCode: %{public}d, act: %{public}d", errorCode, act);
    }
};

4. 调用start()方法开始编码。

encoder.start();

5. 调用getAvailableBuffer()取到一个可用的ByteBuffer，把数据填入ByteBuffer里，然后再调用writeBuffer()把ByteBuffer写入编码器实例。

6. 调用stop()方法停止编码。

encoder.stop();

7. 编码任务结束后，调用release()释放资源。

encoder.release();

解码的具体开发步骤如下：

1. 创建解码Codec实例，可调用createDecoder()创建。

Codec codec = Codec.createDecoder();

2. 构造数据源格式，并设置给Codec实例，调用setCodecFormat()，代码示例如下：

Format fmt = new Format();
fmt.putStringValue(Format.MIME, Format.VIDEO_AVC);
fmt.putIntValue(Format.WIDTH, 1920);
fmt.putIntValue(Format.HEIGHT, 1080);
fmt.putIntValue(Format.BIT_RATE, 392000);
fmt.putIntValue(Format.FRAME_RATE, 30);
fmt.putIntValue(Format.FRAME_INTERVAL, -1);
fmt.putIntValue(Format.COLOR_MODEL, 21);
codec.setCodecFormat(fmt);

3. （可选）如果需要解码过程中，检测是否读取到Buffer数据以及是否发生异常，可以构造ICodecListener，ICodecListener需要实现两个方法，实现读到Buffer数据时、解码发生异常时做相应的操作。举例中读到buffer时，获取buffer的format格式，异常时抛出运行时异常，代码示例如下：

Codec.ICodecListener listener = new Codec.ICodecListener() {
    @Override
    public void onReadBuffer(ByteBuffer byteBuffer, BufferInfo bufferInfo, int trackId) {
        Format fmt = codec.getBufferFormat(byteBuffer);
    }

    @Override
    public void onError(int errorCode, int act, int trackId) {
        throw new RuntimeException();
    }
};

4. 调用 start()方法开始解码

codec.start();

5. 调用getAvailableBuffer取到一个可用的ByteBuffer，把数据填入ByteBuffer里，然后再调用writeBuffer把ByteBuffer写入解码器实例。

6. 调用 stop()方法停止解码

codec.stop();

7. 解码任务结束后，调用release()释放资源。

codec.release();

管道模式开发步骤

管道模式下应用只需要调用Source类的setSource()方法，数据会自动解析并传输给Codec实例。管道模式编码支持视频流编码和音频流编码。

编码的具体开发步骤如下：

1. 调用createEncoder()创建编码Codec实例。

2. 调用setSource()设置数据源，支持设定文件路径或者文件File Descriptor。

3. 构造数据源格式或者从Extractor中读取数据源格式，并设置给Codec实例，调用setSourceFormat()，构造数据源格式代码示例如下：

String path = "/xxx/xxx//asd.mp4";
boolean ret = decoder.setSource(new Source(path), null);
final Codec encoder = Codec.createEncoder();
Format fmt = new Format();
fmt.putStringValue(Format.MIME, Format.VIDEO_AVC);
fmt.putIntValue(Format.WIDTH, 1920);
fmt.putIntValue(Format.HEIGHT, 1080);
fmt.putIntValue(Format.BIT_RATE, 392000);
fmt.putIntValue(Format.FRAME_RATE, 30);
encoder.setSourceFormat(fmt);

4. 如果需要编码过程中，检测是否读取到Buffer数据以及是否发生异常，可以构造ICodecListener，ICodecListener需要实现两个方法，实现读到Buffer数据时、编码发生异常时做相应的操作。举例中读到buffer时，获取buffer的format格式，异常时抛出运行时异常，代码示例如下：

Codec.ICodecListener listener = new Codec.ICodecListener() {
    @Override
    public void onReadBuffer(ByteBuffer byteBuffer, BufferInfo bufferInfo, int trackId) {
        Format fmt = codec.getBufferFormat(byteBuffer);
    }

    @Override
    public void onError(int errorCode, int act, int trackId) {
        HiLog.error(TAG, "PlayerCallback onError errorCode: %{public}d, trackId: %{public}d", errorCode, trackId);
    }
};

5. 调用start()方法开始编码。

6. 调用stop()方法停止编码。

7. 编码任务结束后，调用release()释放资源

解码的具体开发步骤如下：

1. 调用createDecoder()创建解码Codec实例。

2. 调用setSource()设置数据源，支持设定文件路径或者文件File Descriptor。

3. 如果需要解码过程中，检测是否读取到Buffer数据以及是否发生异常，可以构造ICodecListener，ICodecListener需要实现两个方法，实现读到Buffer数据时、解码发生异常时做相应的操作。举例中读到buffer时，获取buffer的format格式，异常时抛出运行时异常，代码示例如下：

Codec.ICodecListener listener = new Codec.ICodecListener() {
    @Override
    public void onReadBuffer(ByteBuffer byteBuffer, BufferInfo bufferInfo, int trackId) {
        Format fmt = codec.getBufferFormat(byteBuffer);
    }

    @Override
    public void onError(int errorCode, int act, int trackId) {
        throw new RuntimeException();
    }
};

4. 调用start()方法开始解码。

5. 调用stop()方法停止解码。

6. 解码任务结束后，调用release()释放资源。