简体中文

基于AVAPIs模块开发网络摄像机-APP端

基于AVAPIs模块开发网络摄像机-APP端

更新日期:2025/2/13


目录

相关sdk demo路径说明

平台 例子
android SDK目录\Sample\Android\Sample_AVAPIs_Client
ios SDK目录\Sample\iOS\Sample_AVAPIs
windows SDK目录\Sample\Windows\Sample_AVAPIs_Client
mac SDK目录\Sample\MAC\Sample_AVAPIs

常见的配网方式

可以参考:常见的配网方式实作纲要

连线和数据传输

主要使用的API: IOTCAPIs+AVAPIs

流程图:

image.png

连线

连线先使用IOTC_Get_SessionID获取一个空闲的sid,然后调用IOTC_Connect_ByUIDEx去连线设备。

tmpSID = IOTC_Get_SessionID();
if(tmpSID < 0) {
	printf("  [%s:%d] IOTC_Get_SessionID failed ret[%d]\n", __FUNCTION__, __LINE__, tmpSID);
	pthread_exit(0);
}
printf("  [%s:%d] IOTC_Get_SessionID tmpSID[%d]\n", __FUNCTION__, __LINE__, tmpSID);

IOTCConnectInput connect_input;
connect_input.cb = sizeof(connect_input);
connect_input.authentication_type = AUTHENTICATE_BY_KEY;
connect_input.timeout = 20; //连线超时时间
memcpy(connect_input.auth_key, gDemoConfig.iotc_auth_key, IOTC_AUTH_KEY_LENGTH);

SID = IOTC_Connect_ByUIDEx(ServerInfo->UID, tmpSID, &connect_input);

IOTC_Connect_ByUIDEx连线成功(即 >= 0),则返回本次连线的session ID,失败则返回相关报错,常见为-90,-42,-19等。

【其他】参考:IOTC_Connect_ByUID_Parallel,IOTC_Connect_Stop_BySID,IOTC_Session_Close

创建传输通道

因为IOTCAPIs通道为不可靠传输,所以通常会创建一个AV通道,专门用以可靠传输音视频和信令数据。创建方法可参考:

AVClientStartInConfig avClientInConfig;
AVClientStartOutConfig avClientOutConfig;
memset(&avClientInConfig, 0, sizeof(avClientInConfig));
avClientInConfig.cb               = sizeof(AVClientStartInConfig);
avClientInConfig.iotc_channel_id  = 0;//av通道需使用的iotc channel id,范围[0,31]
avClientInConfig.iotc_session_id  = SID;//相关的session id,参考上一步连线
avClientInConfig.timeout_sec      = 30;
avClientInConfig.resend           = 1; //1 为开启重传,0为关闭重传
if (ENABLE_DTLS)
	avClientInConfig.security_mode = AV_SECURITY_DTLS;//使用DTLS加密
else
	avClientInConfig.security_mode = AV_SECURITY_SIMPLE;//使用TUTK加密

if (AUTH_BY_TOKEN) { //使用token的方式验证,可以传更长的数据的验证数据
	avClientInConfig.account_or_identity    = gDemoConfig.av_identity;
	avClientInConfig.password_or_token      = gDemoConfig.av_token;
	avClientInConfig.auth_type              = AV_AUTH_TOKEN;
} else {    //使用密码的范式验证,验证数据更短
	avClientInConfig.account_or_identity    = gDemoConfig.av_account;
	avClientInConfig.password_or_token      = gDemoConfig.av_password;
	avClientInConfig.auth_type              = AV_AUTH_PASSWORD;
}
avClientOutConfig.cb = sizeof(AVClientStartOutConfig);

avIndex = avClientStartEx(&avClientInConfig, &avClientOutConfig); //开启通道

【其他】参考:avClientStart,avClientStart2,avServStop,avServExit。

数据传输

AVAPIs提供了透传的通道,针对不同的数据类型,提供了不同的传输API对。

  • 图像:avSendFrameData / avRecvFrameData2
  • 声音:avSendAudioData / avRecvAudioData
  • IO控制:avSendIOCtrl / avRecvIOCtrl   //io指令的定义,可以参考SDK Readme.html的AV Module Reference of AV IO Control部分,也可以自定义格式

接收视频:

APP先发送指令,再开线程接收视频:

SMsgAVIoctrlAVStream ioMsg;
memset(&ioMsg, 0, sizeof(SMsgAVIoctrlAVStream));
if((ret = avSendIOCtrl(avIndex, IOTYPE_USER_IPCAM_START, (char *)&ioMsg, sizeof(SMsgAVIoctrlAVStream))) < 0)
{
	printf("start_ipcam_stream failed[%d]\n", ret);
	return 0;
}

接收视频主要代码:

unsigned int frmNo;
int outBufSize = 0;
int outFrmSize = 0;
int outFrmInfoSize = 0;
bool need_key_frame = false;
int video_buf_size = VIDEO_BUF_SIZE;
char *buf = new char[VIDEO_BUF_SIZE];
FRAMEINFO_t frameInfo;
while(1){
	int ret = avRecvFrameData2(avIndex, buf, video_buf_size, &outBufSize, &outFrmSize, (char *)&frameInfo, sizeof(FRAMEINFO_t), &outFrmInfoSize, &frmNo);
	if(ret <= 0){
		if(ret == AV_ER_DATA_NOREADY) {
			usleep(5 * 1000);
			continue;
		} 
		else if(ret == AV_ER_LOSED_THIS_FRAME || ret == AV_ER_INCOMPLETE_FRAME) {
			printf("Recv video, Lost video frame NO[%d]\n", frmNo);
			need_key_frame = true;//中途丢帧,需要等I帧
		} 
		else if(ret == AV_ER_BUFPARA_MAXSIZE_INSUFF){
			 printf("Video buffer is too small to store frame[%d]\n", frmNo);
			 //加大视频buffer,或者frameInfo的大小,这两个太小,都可能出现-20001。
			 resizeVideoBuffer();//or resizeFrameInfoBuffer()
			 need_key_frame = true;//需要等I帧
			 continue;
		}
		else{
			printf("Recv video, error code[%d],will break;\n",ret);
			break;
		}
	}
	if(need_key_frame){
		if(frameInfo.flags = IPC_FRAME_FLAG_IFRAME){
			 need_key_frame = false;   
		}
		else{
			continue;    
		}
	}
	//实际接收的帧大小:ret
	//数据处理。
	//把数据拷贝到解码队列,初始化播放器,解码显示图像。
	//第一帧需要从I帧开始处理,不然会解码失败。
}
delete[] buf;
buf = NULL;

接收音频:

APP先发送指令,再开线程接收声音:

if((ret = avSendIOCtrl(avIndex, IOTYPE_USER_IPCAM_AUDIOSTART, (char *)&ioMsg, sizeof(SMsgAVIoctrlAVStream))) < 0){
	printf("start_ipcam_stream failed[%d]\n", ret);
	return 0;
}

接收声音的主要代码:

char buf[AUDIO_BUF_SIZE];
FRAMEINFO_t frameInfo;
while(1){
	int ret = avRecvAudioData(avIndex, buf, AUDIO_BUF_SIZE, (char *)&frameInfo, sizeof(FRAMEINFO_t), &frmNo);
	if(ret <= 0){
		if(ret == AV_ER_DATA_NOREADY) {
			usleep(5 * 1000);
			continue;
		} 
		else if(ret == AV_ER_LOSED_THIS_FRAME || ret == AV_ER_INCOMPLETE_FRAME) {
			printf("Recv video, Lost audio frame NO[%d]\n", frmNo);
#if _ENABLE_FILL_LAST_FRAME_
		   //因为音频本身是线性的,所以中途有丢一帧,可以用上一帧来填充。
		   memcpy(dst_audio_buf,last_audio_frame,last_audio_size);
#else
			continue;
#endif
		} 
		else{
			printf("Recv audio, error code[%d],will break;\n",ret);
			break;
		}
	}
	//实际接收的帧大小:ret
	//数据处理。
	//把数据拷贝到解码队列,初始化播放器,解码播放声音。
}

需要注意的问题:

  1. 视频和音频的接收需要分开不同线程处理,以免互相影响。
  2. 接收和解码播放需要分开不同线程处理,以免互相影响。
  3. 视频第一帧需从I帧开始处理,如果中途丢帧,需要等下一个I帧才继续处理。

对讲:

可以参考:基于AVAPIs的对讲实现

常见问题以及处理

问题 说明 处理举措
AV_ER_INVALID_ARG/-20000 参数错误,常见的是结构体参数没有合理赋值,其他情况也能是avIndex被关闭了。 检查结构体参数是否填写合理,检查avIndex是否已被关闭。
AV_ER_INVALID_SID/-20010 传入的Session id无效,或者连接已被关闭 检查参数是否正确,如果是连接已被关闭,则释放资源。
AV_ER_EXCEED_MAX_SIZE/-20006 设备端缓存区已满 清缓存,降码率
AV_ER_IOTC_CHANNEL_IN_USED/-20027 avClientStartEx或者avServStartEx里面使用的iotc channel id已经被占用 换其他的iotc channel id
AV_ER_SESSION_CLOSE_BY_REMOTE/-20015 对端已经关闭连接 停止收发数据,关闭通道,关闭连接
AV_ER_TIMEOUT/-20011 超时 根据不同API,做不同处理。
avClientStartEx/avServStartEx出现此报错,则需要关闭连接。
avRecvIOCtrl出现此报错,continue即可。

相关头文件说明

头文件 说明
AVFRAMEINFO.h 帧信息定义
AVIOCTRLDEFs.h IO控制指令定义
TUTKGlobalAPIs.h 全局的设定
IOTCClient.h 客户端连线相关专用接口定义
IOTCCommon.h 通用接口,默认值,错误码定义
IOTCDevice.h 设备端连线相关专用接口定义
AVClient.h 客户端数据发送相关接口定义
AVCommon.h 通用接口,默认值,错误码定义
AVServer.h 设备端数据发送相关接口定义
VSaaS.h 云存储相关接口定义
DASA.h 码流自适应接口定义

其他文章:

即刻开启您的物联网之旅

联系解决方案专家
Kalay App
解决方案
新闻动态
公司动态
行业资讯
媒体报道
永续发展
经营者的话
社会参与
环境永续
公司治理

+86 755 27702549

7×24小时服务热线

法律声明 隐私权条款

关注“TUTK”

TUTK服务尽在掌握

© 2022 物联智慧科技(深圳)有限公司版权所有粤ICP备14023641号
在线咨询
扫一扫

TUTK服务尽在掌握

全国免费服务热线
+86 755 27702549

返回顶部