咖趣阁

手机浏览器扫描二维码访问

第279章 九万里（第3页）

它以向量作为基本数据类型，支持向量的存储、索引、查询和计算。

向量是一组有序数，通常用于

表示具有多个属性的实体，比如文本、图像、音频等。

在向量数据库中，每个向量都有一个唯一的

标识符，并且可以存储在一个连续的向量空间中。

根据存储数据量以及综合性能选择Pipecone作为本项目的向量数据库存储数据。

Pipecone可

以存储和管理大规模的高维向量数据，并提供快速，准确的相似性搜索。

不仅支持实时查询处理，

可以毫秒级别返回最相似的结果，还能支持快速添加和删除向量数据，并实现动态缩放。

更重要的是，明天发工资，差点又忘了更新了。

我将分为四个部分来介绍我的毕业论文。

首先是研究背景。

那么为什么要开展我这个研究呢？随着信息技术和网络技术的快速发展下，非结构化数据的比例迅速上升，传统的数据库并不能存储这些数据，所以这无疑带来了数据管理领域的重大挑战。

文献是科技工作者获取知识的重要来源。

英语作为国际通用语言，英文文献的重要性便不言而喻。

文献通常以PDF进行存储。

传统的pdf信息提取，比较局限，采用人工查阅的方法来实现，因此，这必定产生大量人力物力的浪费。

1研究背景

在信息技术和网络技术的快速发展下，共享信息资源的规模也在迅速增长，人们在工作和生活

中使用各种多样的信息资源，包括语音、短视频、聊天信息等。

然而，日常生活中更多的信息以自媒体为发展的数据，是不能被统计到的。

随后进行数据采集，爬取加人工采集。

对两种方式采集的文献数据进行整理，将元数据记录好，并统一格式，用于后续的检索。

最后是文献的精细筛选。

因为RAG技术就是要增加大语言模型在专业领域的可信程度，解决大语言模型的幻觉问题。

那在数据的选取上就更偏向于专业程度更高的文献类型数据。

本章介绍了研究所选文献数据的获取来源和途径。

通过Python爬取的方式获取大部分文献数

据与元数据，对元数据进行基本处理，为后续分析提供帮助，丰富向量知识库的数据储备。

随后为

喜欢离语请大家收藏：（）离语