讲讲RK3568开发板上的多核加载流程

YY3568主板基于 Rockchip RK3568 芯片平台，四核 64位 Cortex-A55 核，主频最高达 2GHz，集成双核心架构GPU以及高效能NPU，芯片性能优异。开发板功能接口丰富，多媒体性能强悍、可在物联网、工业控制、智慧交通、轻量级人工智能等领域发挥独特优势。

板载有 2路DSI、1路HDMI 和 1路edp显示接口。支持双屏异显输出和4K分辨率。强大的显示性能，并且适配了自研的7寸mipi屏和edp屏。在多屏广告机、电子站牌、自助服务机、工业HMI等领域可发挥强大优势以及更低的成本。

板载 2 路千兆 以太网，可通过双网口访问和传输内外网的数据。拥有WIFI/BT，PCIE 3.0接口及 SIM 座，可接 4G 通信模块，提高网络传输效率。满足NVR、工业网关等多网口产品需求。

板载 5路 串口，能够大大降低通信成本。2 路IIC，可接多个IIC设备。1路CAN，能够满足汽车电子领域需求。

板载PCIE3.0和SATA接口，支持固态硬盘M.2，SATA硬盘，可扩展大容量硬盘。

YY3568多核启动方案

瑞芯微官方提供了4种多核软件方案。但是启动流程的大致方案是一致的。其方案为：

YY3568多核启动分析

我们在风火轮科技的YY3568开发板上验证的方案：3kernel(SMP) + 1RT-Thread。

启动配置

多核启动配置文件路径：device/rockchip/rk3568/rk3568_amp_linux.its。

rk3568_amp_linux.its配置文件格式，其以设备树的格式存在。所以操作其内容的方法可以通过操作设备树一样。

多核启动主要分为两个核心节点：

①conf节点描述：描述需要启动那些子核心(节点：loadables)，linux内核启动参数(节点：linux)。

②images节点描述：描述需要启动子核心的参数，如：架构，指令集，分区首地址，核启动延迟等。

/{
description="FITsourcefileforrockchipAMP";
#address-cells=<1>;

images{
amp3{
description="bare-mental-core3";
data=/incbin/("cpu3.bin");//打包前的固件位置，一般不需要
type="firmware";
compression="none";
arch="arm";//固件的指令架构，当前只支持arm
cpu=<0x300>;//mpidr
thumb=<0>;//0:armorthumb2;1:thumb
hyp=<0>;//0:el1/svc;1:el2/hyp
load=<0x02800000>;//内存分区起始地址
udelay=<10000>;//启动下一个核心的延迟时间
hash{
algo="sha256";
};
};
};

configurations{
default="conf";
conf{
description="RockchipAMPimages";
rollback-index=<0x0>;
loadables="amp3";

signature{
algo="sha256,rsa2048";
padding="pss";
key-name-hint="dev";
sign-images="loadables";
};

/*-runlinuxoncpu0
*-itisbroughtupbyamp(thatrunonU-Boot)
*-itisbootentrydependsonU-Boot
*/
linux{
description="linux-os";
arch="arm64";
cpu=<0x000>;
thumb=<0>;
hyp=<0>;
udelay=<0>;
};
};
};
};

内存分区

描述了每个核心的内存起始地址以及内存分区大小。

我们采用的方案：3kernel(SMP) + 1RT-Thread，所以RT-Thread的内存位置为：CPU3_MEM_BASE=0x02800000。

# Linux + HAL/RTT形式的内存资源分区示例：
CPU0_MEM_BASE=0x03000000
CPU1_MEM_BASE=0x01800000
CPU2_MEM_BASE=0x02000000
CPU3_MEM_BASE=0x02800000
CPU0_MEM_SIZE=0x00800000
CPU1_MEM_SIZE=0x00800000
CPU2_MEM_SIZE=0x00800000
CPU3_MEM_SIZE=0x00800000

amp固件打包

RK3568的amp固件，其包含的内容：启动配置信息(rk3568_amp_linux.its) + 从核的代码。

它是通过mkimage将两者打包一起的，工具路径：device/rockchip/common/mkimage。

打包命令：mkimage -f amp.its -E -p 0xe00 amp.img，其中：

0xe00：它是its在固件的大小，如果its文件大小不足对应大小，则补0。

从核的代码追加在其后面。

源码分析

内核启动流程--准备工作

RK3568的多核启动是由uboot来管理的，所以我们主要剖析uboot的源码。

多核启动流程的代码路径：uboot/drivers/cpu/rockchip_amp.c。

多核启动的函数入口：int amp_cpus_on(void)。

启动核心的程序，需要提前准备4个动作：

获取设备的启动设备，我们YY3568目前采用的是EMMC，所以这里描述的就是EMMC设备；然后从启动设备获取AMP分区。

申请存放头信息的空间，从AMP分区中获取头信息(即多核启动配置信息:rk3568_amp_linux.its)；检测its的合法性，并获取其大小。

申请固件的内存，从AMP分区获取从核心的内容。

通过头部信息，解析可加载项。然后调用brought_up_all_amp()启动所有核心。

intamp_cpus_on(void)
{
....省略

dev_desc=rockchip_get_bootdev();
....省略

if(part_get_info_by_name(dev_desc,AMP_PART,&part)< 0)       // ①
 ....省略

 hdr = memalign(ARCH_DMA_MINALIGN, FIT_HEADER_SIZE);
 ....省略

 /* get totalsize */
 offset = part.start;
 cnt = DIV_ROUND_UP(FIT_HEADER_SIZE, part.blksz);
 if (blk_dread(dev_desc, offset, cnt, hdr) != cnt) {
 ....省略

 if (fdt_check_header(hdr)) {
 ....省略

 if (fit_get_totalsize(hdr, &totalsize)) {           // ②
 ....省略

 /* load image */
 fit = memalign(ARCH_DMA_MINALIGN, ALIGN(totalsize, part.blksz));
 ....省略

 offset += cnt;
 cnt = DIV_ROUND_UP(totalsize, part.blksz) - cnt;
 if (blk_dread(dev_desc, offset, cnt, fit + FIT_HEADER_SIZE) != cnt) {   // ③
 ....省略

 ret = parse_os_amp_dispatcher();
 ....省略

 /* Load loadables */
 memset(&images, 0, sizeof(images));
 images.fit_uname_cfg = "conf";
 images.fit_hdr_os = fit;
 images.verify = 1;
 ret = boot_get_loadable(0, NULL, &images, IH_ARCH_DEFAULT, NULL, NULL);     // ④
 ....省略

 /* Wakeup */
 ret = brought_up_all_amp(images.fit_hdr_os, images.fit_uname_cfg); //⑤
 ....省略
}

内核启动流程--加载项获取

核心启动分为两部分：Linux内核启动部分 + 非Linux内核(RT-Thread)启动部分。

Linux内核启动部分：从rk3568_amp_linux.its配置中获取Linux节点。然后调用brought_up_amp()启动内核。

非Linux内核(RT-Thread)启动部分：从rk3568_amp_linux.its配置中获取loadables节点，遍历节点成员，获取对应的加载项的配置信息，然后调用调用brought_up_amp()启动内核。

staticintbrought_up_all_amp(void*fit,constchar*fit_uname_cfg)
{
....省略

g_bootcpu.boot_on=1;

linux_noffset=fdt_subnode_offset(fit,conf_noffset,"linux");//①
if(linux_noffset>0){
ret=brought_up_amp(fit,linux_noffset,&g_bootcpu,1);
if(ret)
returnret;
}

for(loadables_index=0;//②
uname=fdt_stringlist_get(fit,conf_noffset,
FIT_LOADABLE_PROP,loadables_index,NULL),uname;
loadables_index++){
cpu_noffset=fit_image_get_node(fit,uname);
if(cpu_noffset< 0)
   return cpu_noffset;

  ret = brought_up_amp(fit, cpu_noffset, &g_bootcpu, 0);
  if (ret)
   return ret;
 }

    ....省略

 return 0;
}

内核启动流程--核心配置参数获取

我们获取了加载项节点之后，从节点中获取其加载参数，获取方式跟设备树树获取一致。

通过smc_cpu_on()启动核心

staticintbrought_up_amp(void*fit,intnoffset,
boot_cpu_t*bootcpu,intis_linux)
{

....省略

desc=fdt_getprop(fit,noffset,"description",NULL);
cpu=fit_get_u32_default(fit,noffset,"cpu",-ENODATA);
hyp=fit_get_u32_default(fit,noffset,"hyp",0);
thumb=fit_get_u32_default(fit,noffset,"thumb",0);
entry=load=fit_get_u32_default(fit,noffset,"load",-ENODATA);
us=fit_get_u32_default(fit,noffset,"udelay",0);
boot_on=fit_get_u32_default(fit,noffset,"boot-on",1);
fit_image_get_arch(fit,noffset,&arch);
fit_image_get_type(fit,noffset,&type);
fit_image_get_data_size(fit,noffset,&data_size);
memset(&args,0,sizeof(args));

....省略

/*bootnow*/
ret=smc_cpu_on(cpu,pe_state,entry,&args,is_linux);
if(ret)
returnret;
exit:
if(us)
udelay(us);

return0;
}

内核启动流程--内核启动

检测pe状态，如果目标pe状态是默认的arch状态，则直接给cpu通电

如果非Linux系统则跳转到finish下，直接启动启动内核。

如果是Linux系统需要设置启动参数，然后再启动内核。

staticintsmc_cpu_on(u32cpu,u32pe_state,u32entry,
boot_args_t*args,boolis_linux)
{
....省略

/*iftargetpestateisdefaultarchstate,powerupcpudirectly*/
if(is_default_pe_state(pe_state))
gotofinish;

ret=sip_smc_amp_cfg(AMP_PE_STATE,cpu,pe_state,0);
if(ret){
AMP_E("smcpe-state,ret=%d
",ret);
returnret;
}

/*onlylinuxneedsbootargs*/
if(!is_linux)
gotofinish;

ret=sip_smc_amp_cfg(AMP_BOOT_ARG01,cpu,args->arg0,args->arg1);
if(ret){
AMP_E("smcbootarg01,ret=%d
",ret);
returnret;
}

ret=sip_smc_amp_cfg(AMP_BOOT_ARG23,cpu,args->arg2,args->arg3);
if(ret){
AMP_E("smcbootarg23,ret=%d
",ret);
returnret;
}

finish:
ret=psci_cpu_on(cpu,entry);
if(ret){
printf("cpuupfailed,ret=%d
",ret);
returnret;
}
printf("OK
");

return0;
}

多核启动效果

多核方案：3kernel(SMP) + 1RT-Thread，

我们需要准备两个串口，一个为Linux端的终端信息打印（UART2），一个为RT-Thread端的终端信息打印（UART4）

YY3568已经将所有的串口引出，所以我们调试很方便，接线图如下：

运行效果：

审核编辑：刘清