《星际之门计划:人工智能的未来及如何利用它为自己谋利(第二部分)》
上周,我们讨论了人工智能的可能未来,以及如何通过像《星际之门》这样的项目推动AGI或甚至ASI的发展。
然而,许多人可能会问:这与我有什么关系?
这是个好问题。《星际之门计划》对许多人来说似乎无关紧要,这一点是对的。
然而,人工智能总体上不应该被这样看待。
人工智能的选择几乎是无限的。许多公司提供其独特调优的模型,可以完成各种任务。大多数模型是免费的,有些提供有限数量的积分(消息),还有一些完全开源。
我个人最喜欢开源的模型,因为你可以根据自己的需要调整代码,下载到自己的计算机上,整体上它们更安全,因为没有幕后操作(所有内容都是透明的)。此外,其中的一些模型甚至可以离线使用,这在无法访问特别安全的互联网连接时非常有帮助。
安装 Deepseek R1(Mac 的逐步指南)
市场上有许多强大的AI模型,包括最近发布的Deepseek R1(由一家中国公司制作)。这个模型的一个最强版本据说在多个基准测试中超过了OpenAI的o1模型(OpenAI模型之前被认为是最好的之一)。然而,我最喜欢Deepseek R1的是它是完全开源的。
在将其安装到设备上后,该模型应该能够离线运行(尽管某些功能可能受限),并且你可以发送无限数量的消息。
但Deepseek与OpenAI o1的不同之处在于,它具备“推理”的能力。基本上,它会引导你了解其思维过程的所有步骤,从解释你的提示到回答。这个功能在解决复杂数学、编程等方面非常有帮助。你可以将其视为一个“思考 aloud”的AI。
因此,我决定下载这个模型,亲自尝试。在这个过程中,我遇到了许多挑战、障碍,以及几天没有进展的挫折。然而,经过几周的尝试,这里有一个希望对你有用的指南,教你如何将Deepseek R1(或类似的开源项目)下载到Mac操作系统上。
请注意,具体过程可能有所不同,如果遇到问题,请咨询相关资料。
首先,你需要找到一个在整个安装过程中都会使用的重要工具——终端应用程序,这是一个预安装的应用程序,使用命令行界面与操作系统交互,而不是图形用户界面,从而完成各种任务。要找到这个应用程序,只需打开Spotlight(Command + Space),然后键入“Terminal”。要运行任何命令行,只需在终端提示部分(从 % 开始)输入或粘贴命令,然后按“Enter”运行。
但在我们实际开始使用终端应用程序安装Deepseek之前,我们需要安装一系列称为“依赖项”的工具。对于Deepseek,需要四个依赖项:Anaconda、Python、Ollama和PyTorch。并且要确保有一个可靠的浏览器来访问安装所需的网站。
由于代码主要基于Python,因此你需要从网站 https://www.python.org/ 安装Python包。这是一个相对简单的过程:只需导航到他们的主页,那里会有一个链接用于下载最新版本的Python。选择正确的操作系统(不要下载错误的版本)。完成后,你应该会在应用程序文件夹中找到一个新的“Python”(应用程序文件夹在Finder中)。
另外,你也可以通过Homebrew(一个包管理器)以另一种方式下载Python。访问他们的网站 https://brew.sh/ 并复制提供的命令行(应该是 ‘/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"’,请确认一下),然后转到终端。粘贴命令行,Homebrew应该会被安装。确保通过在终端中运行‘brew update’保持其最新,然后运行‘brew install python’。
在这两种方法中,你可以通过运行‘python3 --version’来验证安装,应该会弹出一个Python版本号。
接下来,你需要安装Ollama(代表Omni-Layer Learning Language Acquisition Model)。这个工具很重要,因为你需要它直接将Deepseek安装到你的Mac上。只需访问他们的网站 https://ollama.com/download ,然后点击Mac的包(注意,安装Ollama需要macOS 11 Big Sur或更高版本)。打开安装程序,并按照说明安装Ollama。要验证安装,请使用‘ollama --version’。
然后你可以继续下载另一个依赖项Anaconda。为此,访问 https://www.anaconda.com ,并导航到他们的下载页面。点击macOS下载,将安装一个安装程序。打开这个包,它会引导你完成下载Anaconda的过程。安装后,你可以通过在终端中使用与之前Python相似的命令行来验证Anaconda版本:‘conda --version’。这个版本号应该与网站上的相同。
那么,我们为什么需要Anaconda呢?主要原因是这个特定项目提供了Conda,一个强大的包管理器,我们可以用它创建虚拟环境。虚拟环境基本上是分开的操作空间。它们减少了不同包之间的冲突。例如,另一个项目可能需要不同版本的Python,这意味着操作系统可能会困惑于使用哪个版本。在这里,如果你在应用程序文件夹中单独下载了新的Python版本,那就像两个完全隔离的操作站,不会发生混淆。
因此,要实现Conda虚拟环境,我们需要运行命令行‘conda create --name Deepseek’。这将创建一个名为‘Deepseek’的虚拟环境。你可以通过更改‘--name’后面的输入来替换名称,但请注意保持一个“单词”,使用下划线(_)连接不同的单词。
在运行‘conda create’命令后,你需要在终端中输入‘y’以允许系统创建并下载所需的环境包(你可以输入‘n’以终止环境创建)。要激活环境,只需运行‘conda activate Deepseek’(或你的环境名称)。你会注意到提示部分之前的标题,从之前的‘(base) name@MacBookAir %’变为‘(Deepseek) name@MacBookAir %’。括号内的内容将被你的环境名称替换,表明环境已成功激活。
要返回基础环境,使用‘conda deactivate’。要删除环境,首先在终端中输入‘conda env list’,这将显示所有Conda环境。找到你想要删除的环境,验证名称,然后输入‘conda env remove --name Deepseek’(或任何其他环境名称)。
如果你想在环境中请求特定版本的Python,只需将创建虚拟环境的正常命令提示更改为‘conda create --name Deepseek python=version’(将version替换为你想要的版本)。
安装完Anaconda后,你现在需要安装最后一个依赖项PyTorch。
PyTorch对Deepseek的深度学习能力至关重要。
访问他们的网站 https://pytorch.org/ ,向下滚动到“安装PyTorch”部分。在这里,有各种配置。选择你喜欢的配置,并复制提供的命令行。
或者,你可以运行命令行‘conda install pytorch torchvision torchaudio cudatoolkit=11.7 -c pytorch’(用于GPU),以及‘conda install pytorch torchvision torchaudio -c pytorch’(用于CPU)。
现在,所有的努力都得到了回报。安装所有依赖项后,你只需输入最终命令行以安装Deepseek。
不过,在此之前,你需要选择Deepseek的适当版本。该模型有7个版本,大小不同。根据你的磁盘空间和Mac的内存,你可以选择最适合你需求的版本。记得在下载之前检查可用的磁盘空间,否则可能会崩溃或出现错误。
以下是不同版本及其安装命令行的列表:
a. 1.1 GB(‘ollama run deepseek-r1:1.5b’)
b. 4.7 GB(‘ollama run deepseek-r1:7b’)
c. 4.9 GB(‘ollama run deepseek-r1:8b’)
d. 9 GB(‘ollama run deepseek-r1:14b’)
e. 19 GB(‘ollama run deepseek-r1:32b’)
f. 42 GB(‘ollama run deepseek-r1:70b’)
g. 404 GB(‘ollama run deepseek-r1:671b’)
这些模型的大小越来越大,并且运行所需的内存也越来越多。我建议从最小的1.1 GB版本开始,未来可能进行升级。
如果你确实选择安装多个版本的Deepseek以查看哪个运行得最好(就像我做的那样),我还建议在安装每个新版本之前使用Conda创建一个新的虚拟环境,因为这可能会变得相当混乱。
在实际运行所选版本的命令行后,你应该等待安装过程完成。完成后,模型应该自动初始化,输入部分应该以‘>>>’开始。
要使用该模型,这里有一些基本命令需要注意。
如果你刚下载并且已经初始化,你可以将提示输入到模型中并按回车发送。
根据设备的空闲内存,输出速度(每秒令牌数)应该是快或非常慢。你可以通过释放设备的内存来提高此速度。为此,打开Spotlight(Command + Space),搜索“活动监视器”。这个应用程序可以让你访问设备的进程,包括内存、CPU、GPU、能源、磁盘和网络。对于我们的目的,转到内存,然后你将看到所有当前使用内存的进程。我的Mac有8 GB的内存,尽管你的设备可能有不同的规格。无论如何,你的内存规格和正在使用的内存量应该会出现在窗口底部。通过做一些基本的减法,你可以计算出设备当前有多少可用内存。你会看到默认情况下,最消耗内存的进程出现在屏幕顶部。要终止一个进程,单击它以选择,然后单击顶部菜单栏中的“X”图标。它会给你三个选择:“退出”、“强制退出”和“取消”。通常,退出进程就足够了。我应该在这里指出,不建议关闭名为“Window Server”的进程。我曾出于好奇关闭过一次,结果所有窗口消失,系统崩溃(但重启后恢复正常)。
接下来,这里有一些与模型本身互动的提示。输入‘/bye’会终止会话,输入‘/clear’会清除之前的对话但不终止会话。要获取更多命令行提示,只需输入‘/help’,这将打开帮助菜单。
终止会话后,你只需输入用于下载模型的相同命令行。但现在,由于它已经被下载,它只会激活模型。你现在只需要享受乐趣。
结论
我希望你在这个两部分系列中学到了新知识,无论是关于《星际之门计划》,人工智能的可能未来,还是如何为自己获取一个AI模型。
有关Deepseek的更多信息,请访问他们的官方网站 https://www.deepseek.com/。有关OpenAI的更多信息,请访问他们的官方网站 https://openai.com/。关于开源模型,我推荐访问GitHub,那里的许多模型等待被发现。
最后,我想提到,我目前正在尝试使用另一个开源AI模型,名为“Genesis AI”,但在Mac上渲染部分遇到问题。如果你恰好知道解决模型渲染的问题,请在评论中发布你的想法。
感谢你阅读这篇文章。记得订阅并分享这篇文章,让更多人能够加入到AI的新时代中。