Process finished with exit code 1073740791 0xc0000409 ошибка

RTX 3090 and Tensorflow for Windows 10 — step by step
I recently bought an RTX 3090 (upgrading from a GTX 1060) and needed my keras/tensorflow notebooks to work. There are some guides on this on the internet, but these were often skipping some steps or explanations, so I wanted to share a very simple, «for dummies» kind of step by step instruction with explanations on how I got it to work on my system. It is similar to this guide, but a bit different as I encountered some problems that was not mentioned in that guide. I am using a Ryzen 2700X and Windows 10 Home.

So, what you need to know beforehand: The NVIDIA 3000 Series GPUs (Ampere) require CUDA v11 and cuDNN v8 to work. The tensorflow versions on anaconda and pip on Windows (currently at max tensorflow 2.3) do not include a tensorflow built with CUDA v11. But you can use pip to install a nightly build of tensorflow (currently tensorflow 2.5) which built with CUDA v11. Apart from a tensorflow build with CUDA v11, you will also need the actual DLLs for CUDA v11 and cuDNN v8. Normally, you would just install these with anaconda with the packages cudatoolkit and cudnn, but while cudatoolkit is available with v11, for cudnn, at least for Windows, v8 is not available in anaconda. The workaround is to manually get these DLLs and set them in the system environment path (so that python/tensorflow can find and load them). So let’s start:

First, install anaconda if you haven’t already. Open the anaconda prompt with admin rights.

Type conda create -n tf2 python=3.8 and hit enter to create a new anaconda environment with python 3.8 (the tensorflow nightly build needs python 3.8 or higher, that’s why we are using python 3.8)

Type activate tf2 or conda activate tf2 and hit enter to enter that new environment.

Install the nightly tensorflow build with pip3 install tf-nightly-gpu

Install other packages that you might need. For me, it’s conda install jupyter scikit-learn matplotlib pandas

Now, download CUDA v11 from NVIDIA (https://developer.nvidia.com/cuda-downloads or https://developer.nvidia.com/cuda-toolkit-archive). Yeah, the file is pretty big with 3GB.

Additionally, apparently we also need a Microsoft Visual Studio version for C++ for the installer to run properly. Download the free Visual Studio Community Edition (https://visualstudio.microsoft.com/downloads/) and install the C++ components. For this, select «Desktop development with C++», select the first 6 options and install. This step is taken from the guide I mentioned earlier, so refer to it if you have trouble with this. For me, I already had Visual Studio with C++ in mind set up on my computer, so I could skip this step.

Now, let’s first execute the CUDA v11 installer. Execute it. You can do the express installation, but if you already have GeForce Experience installed, you can also choose the Custom option and deselect everything that you already have installed with a higher version. For me, I only needed the very first checkbox with the CUDA options, so that might be enough.

What the CUDA v11 installer basically did was installing all the CUDA v11 DLLs, Headers, and stuff in the directory «C:Program FilesNVIDIA GPU Computing ToolkitCUDAv11.1» (the version may be different for you). What we will do next: Add the cuDNN DLLs, Headers, etc. in this directory as well and then add this directory to the system path. Ok, let’s go.

Download cuDNN from NVIDIA (https://developer.nvidia.com/rdp/cudnn-download). This file is around 700MB. You need to register as a developer and answer some questions, but don’t worry, it’s free. When asked for an email, you can type in any email, since in the next page, you will get an option to login using google or facebook as an alternative (which you may or may not prefer). Once you downloaded the file, extract it. Going into the directory, you will see three folders «bin», «include», «lib». Comparing it with the CUDA v11 directory (C:Program FilesNVIDIA GPU Computing ToolkitCUDAv11.1), you’ll notice that these directories are present there as well! So just copy the folders from cuDNN to the CUDA v11 directory. Windows will add the files into the existing folders.

Now, let’s add those directories to the system path. In windows, open start and search for «This PC». Rightclick and select «Properties» to open a Window called «System». On the left side at the bottom, select «Advanced system settings». Click «Environment Variables…» at the bottom. Here, in the lower half, in «System variables», find and open «Path». Here, click «New» to add a new directory to the system path. Do this every time for each of the following directories (as mentioned earlier, the version number may be different for you). Some of the directories may be already listed there, so feel free to skip them (there is no negative effect from double entries though, so don’t worry too much):
C:Program FilesNVIDIA GPU Computing ToolkitCUDAv11.1bin
C:Program FilesNVIDIA GPU Computing ToolkitCUDAv11.1libnvvp
C:Program FilesNVIDIA GPU Computing ToolkitCUDAv11.1extrasCUPTIlib64
C:Program FilesNVIDIA GPU Computing ToolkitCUDAv11.1include

Now, very important: Restart your system!

Now, run your code to see if everything works. For me, it was through a jupyter notebook. A simple thing to do first is to import tensorflow and check the physical devices:import tensorflow as tftf.config.list_physical_devices()

Your GPU may not show up. Take a close look at the output of the console (for me, it was the anaconda prompt with which I started up my jupyter notebook). There, you should see logs like tensorflow/stream_executor/platform/default/dso_loader.cc:49] Successfully opened dynamic library cudart64_110.dll or a similar log stating that a certain DLL could not be loaded! In my case, everything loaded except the DLL «cusolver64_10.dll». So, I went to the CUDA v11 directory (C:Program FilesNVIDIA GPU Computing ToolkitCUDAv11.1), opened the «bin» folder (the DLLs are in there) to check if that DLL was there. Nope, it was not. Instead, there was «cusolver64_11.dll». So what I did was just copy that DLL and renamed the copy to «cusolver64_10.dll». Yeah, sounds dumb, but after that, everything worked.

I hope this guide helps at least someone. Hopefully, we will get official versions of tensorflow 2.5 and the CUDA/cudnn packages soon so that these kind of workarounds will not be required anymore.

EDIT: Somewhat obvious thing I noticed today: Had a video call running and was using the background removal of NVIDIA Broadcast. Tried to do some inference during the call and it was failing with error messages like Could not create cudnn handle: CUDNN_STATUS_ALLOC_FAILED and tensorflow.python.framework.errors_impl.UnknownError: Failed to get convolution algorithm. This is probably because cuDNN failed to initialize, so try looking to see if a warning log message was printed above.. Well, yeah, that was because NVIDIA Broadcast was running, which itself uses the machine learning capabilities of the GPU. After closing it, things worked normally again. Kind of obvious, but somewhat easy to overlook/forget.

72 Comments

Share

Save

Hide

Report

Есть код который я полностью скопировал :), так вот при обучении нейросети на первой эпохе получаю: Process finished with exit code -1073740791 (0xC0000409), сам текст написан на русском, но для проверки попробовал взять английский текст и получаю тоже самое

P.s если нужно скину ссылку на сайт где брал код, в диспетчере задач на несколько секунд запускается отчёт об ошибках Windows, Win 11, python 3.10

import numpy
import sys
from nltk.tokenize import RegexpTokenizer
from nltk.corpus import stopwords
from keras.models import Sequential
from keras.layers import Dense, Dropout, LSTM
from keras.utils import np_utils
from keras.callbacks import ModelCheckpoint

data = open("data_on_text_generate.txt", encoding='utf-8').read()
file = data.lower()

def tokenize_words(input):
    input = input.lower()

    tokenizer = RegexpTokenizer(r'w+')
    tokens = tokenizer.tokenize(input)

    filtered = filter(lambda token: token not in stopwords.words('russian'), tokens)
    return " ".join(filtered)

processed_inputs = tokenize_words(file)
chars = sorted(list(set(processed_inputs)))
char_to_num = dict((c, i) for i, c in enumerate(chars))
input_len = len(processed_inputs)
vocab_len = len(chars)
# print ("Total number of characters:", input_len)
# print ("Total vocab:", vocab_len)

seq_length = 100
x_data = []
y_data = []

for i in range(0, input_len - seq_length, 1):
    in_seq = processed_inputs[i:i + seq_length]

    out_seq = processed_inputs[i + seq_length]

    x_data.append([char_to_num[char] for char in in_seq])
    y_data.append(char_to_num[out_seq])

n_patterns = len(x_data)
# print ("Total Patterns:", n_patterns)

X = numpy.reshape(x_data, (n_patterns, seq_length, 1))
X = X/float(vocab_len)

y = np_utils.to_categorical(y_data)

model = Sequential()
model.add(LSTM(256, input_shape=(X.shape[1], X.shape[2]), return_sequences=True))
model.add(Dropout(0.2))
model.add(LSTM(256, return_sequences=True))
model.add(Dropout(0.2))
model.add(LSTM(128))
model.add(Dropout(0.2))
model.add(Dense(y.shape[1], activation='softmax'))

model.compile(loss='categorical_crossentropy', optimizer='adam')

filepath = "model_weights_saved.hdf5"
checkpoint = ModelCheckpoint(filepath, monitor='loss', verbose=1, save_best_only=True, mode='min')
desired_callbacks = [checkpoint]

model.fit(X, y, epochs=4, batch_size=256, callbacks=desired_callbacks)

filename = "model_weights_saved.hdf5"
model.load_weights(filename)
model.compile(loss='categorical_crossentropy', optimizer='adam')

num_to_char = dict((i, c) for i, c in enumerate(chars))

start = numpy.random.randint(0, len(x_data) - 1)
pattern = x_data[start]
print("Random Seed:")
print(""", ''.join([num_to_char[value] for value in pattern]), """)

for i in range(1000):
    x = numpy.reshape(pattern, (1, len(pattern), 1))
    x = x / float(vocab_len)
    prediction = model.predict(x, verbose=0)
    index = numpy.argmax(prediction)
    result = num_to_char[index]

    sys.stdout.write(result)

    pattern.append(index)
    pattern = pattern[1:len(pattern)]

Уведомление об авторских правах: эта статья является оригинальной статьей Blogger. Если вам нужно перепечатать, пожалуйста, опубликуйте оригинальный пост блога:https://blog.csdn.net/u011628215/article/details/106070829

Предисловие 1:Прежде всего, спасибо за ваших участников литературы! Я дал мне много вдохновения, я не ужас, ужасно, что нет способа попробовать это.

Предисловие 2:Эта проблема заключается в предварительном исследовательском тесте проекта компании, и упрощение примерно преобразуется в данные, а затем использует нейронную сеть, чтобы соответствовать этим данным, и заинтересованнымЭтот пост блога (обновлен)Отказ Предыдущий период очень гладкий, рисунок показывает и т. Д., Но когда я присоединился к нейронному сетевому модулю, я сообщил, что «код выхода -1073740791 (0xC0000409)» команда завершения процесса, как показано на рисунке 1, так что думая, что я думал, что Модуль нейронного сетевого модуля вызвал ошибку (проблема, встречающаяся вчера днем, до этого утра все решено, цикл длинный, но простые вопросы, которые я не использую самый прямой путь:DebugПосле этого утра после одного шагового отладки я обнаружил, что проблема в том, что она «

import matplotlib.pyplot as plt

«Конечно, сам этот шаг не имеет никаких проблем (отладка не имеет никакой ненормальности), и проблема в том, что если« PLT »(например, PLT.Figure ()) будет сообщать об выходе в тему.

Решение:

Поскольку большая часть комментария 1 области обзора — это шестое решение в статье (в другой форме, я также чищу), я попробовал его, я не решил проблему, поэтому я задержал его. После отладки, я Знал причину выходного кода и напомнил статью снова и снова, я увидел, что третий способ в статье это проблема, которую я столкнулся, но только изменился одинОписание «Файл эталонного заголовка»Проблема (см. Ссылку 2 для деталей), затем найдите решения из комментария документа 2 —Обновите пакеты Matplotlib!

Потому что я уже установил MATPLOTLIB с помощью AnaConda перед компьютером, я хочу прямо использовать обновление AnaConda, и нет последней версии, как показано на рисунке 2 (я не понимаю этого, я не знаю последнюю версию, У меня нет последней версии. Это уже последняя версия из переводчика Pycharm). Нет способа установить его с помощью PIP, вызовите CMD, используйте команду «Установить PIP -US -U MATPLOTLIB» (обновлено, см. Ссылка 3), результат также дан, я сообщал неправильно T_T, как показано на рисунке 3, но, к счастью, дать версию MATPLOTLIB, которая соответствует моему компьютеру (см. Синюю коробку на рисунке).

Этот случай только «Официальный сайт Dafa Aragrance«О, найдите соответствующую версию загрузки, после загрузки, поместите его в каталог учетной записи, затем используйте установку PIP, и дайте мне сообщение, как показано на рисунке 4, приглашение ошибки — использовать операцию идентификатора администратора (CMD Используйте управление, когда вы работаете, см. Ссылку 4), затем я снова запустите, как показано на рисунке 5, не было сообщено.

Откройте вид переводчика Pycharm, как показано на рисунке 6, MATPLOTLIB обновляется до 3.2.1, а официальный веб-сайт, но последняя версия библиотеки все еще отображается 3.1.3. После снова запустив программу, нет необходимости сообщать о выходе Code! ! !

подводить итоги:Благодаря этой проблеме наиболее важным выводом является то, чтоИспользуйте BEBUG в одноступенчатый отладчик(Это не точна здесь), это хороший способ устранения неполадок; я обычно напрямую бегаю для отладки, потому что есть ошибка, чтобы дать неверную информацию и местоположение, но встречающую этот неинтересный отчет без кода, нет способ.

Рекомендации:(Благодаря участникам следующих документов! Особенно первый метод решения проблем, дай мне много размышлений!)

1.Ошибка Pycharm: процесс завершен с кодом выхода кода -1073741819 (0xc0000005)

2.Process finished with exit code -1073741819 (0xC0000005)

3.Просмотр Python, Numpy, Scipy, Matplotlib Версия и обновление версии

4.Рассмотрим возможность использования опции «- прозеров» или проверьте ошибку разрешений