【原】什么，ENA和SRA数据库存放的单细胞转录组测序数据并不一致啊？

健明 2021-07-14

展开全文

是时候把生信技能树的舞台交给后辈！

粉丝来稿

作者：黑川五郎

写在前面

单细胞转录组以10X公司为主流，单细胞天地公众号详细介绍了cellranger流程，大家可以自行前往学习，如下：

但是这个两年前的系列笔记是基于V2,V3版本的cellranger，目前呢它更新到了版本4，建议大家以最新版教程为准，在《生信技能树》：cellranger更新到4啦（全新使用教程）

前些天我在生信技能树看到：《文章的最高境界-让人无法重复出来？？？》提到了一个发表在nature cancer杂志的文章，作者将10x Genomics单细胞测序的数据上传到了GEO: GSE138267。但当我们想从 ENA 数据库下载相应的.fastq原始数据时，却发现每个 RUN 只有一个.fastq文件：（上图中 SRR10211576 甚至没有提供.fastq文件……）

由于现在10x Genomics 的 Cellranger 流程要求输入的.fastq文件至少有R1（cell barcode和UMI序列）和 R2（插入片段），直接从 ENA 下载的单个.fastq显然不能用于 CellRanger，必须另找办法。

1. 探索 Run Browser

我们在 SRA 的 Run Browser 中随便查看一下 SRR10211573 的基本信息：

可以看到每个 spot 的 read 由三部分组成。你如果足够熟悉10x Genomics的文库结构，根据碱基长度，就不难推测它们分别是R1（26bp：cell barcode和UMI序列）、R2（98bp：插入片段）和I1（8bp：index序列）

我们注意到下面的 Show 2 additional attributes，点开后可以看到fastq-load.py及其参数：经过谷歌搜索，我们发现fastq-load.py来自 ngs-tools，是一个提供给研究者用于上传数据到 SRA 的工具：

fastq-load.py --output=<archive path> <other options> <fastq files> | general-loader

我没有细看 github 上的源代码，根据输出结果中的<archive path>推测它是把多个.fastq文件合并成一个.sra文件。那么理论上说完整的.sra文件里应该包含完整的三部分 reads，利用sra-toolkit中的fastq-dump提取出这些文件并用于 Cellranger！

只需要软件版本，参数合适，这个流程超级简单！

2. sra-toolkit

配置sra-docker

这里我搭建了一个 docker 镜像：yuchenlee/sra-toolkit:2.10.8：

docker pull yuchenlee/sra-toolkit:2.10.8

利用prefetch下载.sra文件：

docker run --rm \
  -v /home/lyc/lyc-1995/ncbi/:/home/mydocker/ncbi/ \
  --user=1000 \
  yuchenlee/sra-toolkit:2.10.8 \
  prefetch SRR10211573 --max-size 50000000

挂载宿主机目录时最后一个文件夹要命名为ncbi，数据默认会下载到ncbi/sra。搭建镜像的时候我忘了在里面配置aspera了，下载速度有点慢……

大家最好是使用aspera下载它，可以参考：使用ebi数据库直接下载fastq测序数据 , 需要自行配置好软件。

利用fastq-dump提取 reads 文件：

docker run --rm \
  -v /home/lyc/lyc-1995/ncbi/:/home/mydocker/ncbi/ \
  --user=1000 \
  yuchenlee/sra-toolkit:2.10.8 \
  fastq-dump --split-files --gzip --outdir ./ncbi/fastq  SRR10211573

得到了 3 个.fastq.gz文件，对应 Run Browser 中的 reads per spot：

cd ~/lyc-1995/ncbi/fastq/
tree -hl

.
├── [6.8G]  SRR10211573_1.fastq.gz
├── [21.3G]  SRR10211573_2.fastq.gz
└── [3.1G]  SRR10211573_3.fastq.gz

0 directories, 3 files

其实从文件大小也大致能看出三者的关系来了。

这个第2步骤是通过作者自己建立的 docker 镜像打包好的sra-toolkit:2.10.8软件而已，首先利用prefetch下载.sra文件，然后利用fastq-dump提取 reads 文件，就解压成为了10X单细胞转录组的3个文件。

大家未必需要使用docker哈，仅仅是下载解压 sra-toolkit:2.10.8 软件即可使用它附带的这些命令了。

3. Cellranger

按照 Cellranger 的要求重命名：

mv SRR10211573_1.fastq.gz SC16-LB17028_S1_L001_R1_001.fastq.gz
mv SRR10211573_2.fastq.gz SC16-LB17028_S1_L001_R2_001.fastq.gz
mv SRR10211573_3.fastq.gz SC16-LB17028_S1_L001_I1_001.fastq.gz

就可以愉快地跑 cellranger count啦！其中一个样品结果如下：

4. ENA 和 SRA 不一致

在源代码中查看fastq-load.py的参数--readTypes=TBT：

--readTypes: 

For specifying read types using B (Biological) or T (Technical) 
Use sequence like TBBT - no commas. Defaults to BB. Must be 
consistent with number of values specified for read lengths. 
If you want the read sequence to be used as the spot group or 
part of the spot group use G (Group). Multiple reads incorporated 
into the spot group will be concatenated with an '_' separator.

在我们这个例子中，R2是Biological reads，R1和I1都是Technical reads。我猜测 ENA 在同步 SRA 中的数据时，默认只同步Biological reads，这可能就是为什么我们直接从 ENA 下载数据只得到一个.fastq。而且在fastq-dump参数中，也有选择丢弃Technical reads的选项--skip-technical。但我谷歌了一大圈，并没有找到官方的说明，有人甚至认为这可能是作者上传 ENA 时的失误……

其实要验证这一点，我们可以比较一下从 ENA 下载的.fastq文件和fastq-dump输出的结果：

分别展示前 4 行

head -n 4 SRR10211573_2.fastq

@SRR10211573.1 K00384:78:HLM37BBXX:3:1101:27630:1261 length=98
CATTTTGTANTACGGGGATACCTGNGACTGCACCNTTAAAAAATATATTTATCATTTAANTCTTGGGTAANCACACTTCATAACAGAGNAGAGNGANT
+SRR10211573.1 K00384:78:HLM37BBXX:3:1101:27630:1261 length=98
A<<-----<#--7--7---77A-7#7JJFAAJ7J#7-FF-<--<--77--77AF<----#-<<----<77#FJ-<-AJ--7--7-7--#-7-<#--#-

head -n 4 SRR10211573.fastq

@SRR10211573.1 K00384:78:HLM37BBXX:3:1101:27630:1261/2
CATTTTGTANTACGGGGATACCTGNGACTGCACCNTTAAAAAATATATTTATCATTTAANTCTTGGGTAANCACACTTCATAACAGAGNAGAGNGANT
+
A<<-----<#--7--7---77A-7#7JJFAAJ7J#7-FF-<--<--77--77AF<----#-<<----<77#FJ-<-AJ--7--7-7--#-7-<#--#-

碱基序列部分是完全一样的。

统计一下 reads 数：

grep -c "@" SRR10211573_2.fastq

284914819

grep -c "@" SRR10211573.fastq

284914819

5. 其他

其实今年还有一篇文章上传的数据也是类似的情况：Single-cell transcriptomic atlas of the human endometrium during the menstrual cycle

这套数据的文库结构是Index 8bp + R1 28bp + R2 91bp，就是 10x V3 试剂盒啦！

理论上也可以走同样的流程！

学徒作业

我在教程：《文章的最高境界-让人无法重复出来？？？》提到的学徒作业是进入 https://www.ncbi.nlm./geo/query/acc.cgi?acc=GSE138267 下载全部的表达矩阵，走一下文章里面的聚类分群看看，看看重复性如何！当初考虑到，这个文章上传的测序数据并不完整，但是现在经过了粉丝的纠正，发现其实它的测序数据仅仅是在ENA数据库不完整，在SRA数据库仍然是ok的。

所以，新的学徒作业，就是下载这7个单细胞转录组样品的sra文件，然后利用fastq-dump提取 reads 文件，就解压成为了10X单细胞转录组的3个文件。走cellranger流程！